FDA и CDC тестируют модели OpenAI и антропогенного ИИ для общественного здравоохранения.

Департаменты здравоохранения по всей территории Соединенных Штатов планируют провести испытания инструментов генеративного искусственного интеллекта в рамках новой структурированной программы, включающей в себя... Коалиция за искусственный интеллект в здравоохранении (CHAI), OpenAI, Антропический, и Акцентура.

Инициатива, получившая название Механизм масштабирования обучения и анализа сценариев использования в сфере общественного здравоохранения (PULSE) — будет поддерживать испытания по всей стране 10 штатных, местных, племенных или территориальных юрисдикцийс целью разработки рекомендаций по внедрению для органов здравоохранения, рассматривающих возможность аналогичного использования ИИ.

«Успех или неудача любой крупной технологической трансформации зависят от доверия, управления и качества исполнения. Программа PULSE окажет поддержку ведомствам в этом начинании и специально разработана для практической реализации».

— Доктор Дэвид Лейкибывший комиссар здравоохранения штата Техас

OpenAI и антропический каждый пожертвовал 10 корпоративных лицензий с возможностью размещения до 2000 специалистов в области общественного здравоохраненияКомпания Accenture будет курировать процесс привлечения участников и помогать в разработке руководств по внедрению на основе результатов испытаний. Совет руководителей CHAI выберет участвующие юрисдикции и назначит специалистов в сообщества, ориентированные на конкретные сценарии использования.

📋 Пять примеров применения в сфере общественного здравоохранения

В рамках проекта PULSE основное внимание будет уделено пяти определенным областям применения генеративного ИИ в сфере общественного здравоохранения:

• 🧬 Биологический надзор и прогнозирование распространения наркотиков
• 📍 Картирование социальных детерминантов здоровья (СДЗ)
• ⚙️ Анализ операционной деятельности, эффективности и обратной связи от сообщества.
• 🌐 Центр общественных коммуникаций и многоязычного перевода
• 🏥 Автоматизированный механизм поиска клинических данных и обработки запросов FHIR.

🔒 Вопросы конфиденциальности данных, HIPAA и безопасности

Некоторые предлагаемые приложения могут включать в себя демографические, географические, клинические данные или данные о состоянии здоровья населенияCHAI не сообщила, будут ли пилоты использовать идентифицируемые данные, обезличенную информацию, синтетические данные или агрегированные наборы данных.

Он Министерство здравоохранения и социальных служб США требует от организаций, подпадающих под действие HIPAA для защиты определенной электронной медицинской информации. В руководстве по облачным вычислениям указано, что регулируемые организации и поставщики услуг должны соблюдать требования HIPAA, когда облачные системы создают, получают, хранят или передают защищенную электронную медицинскую информацию.

OpenAI заявляет, что входные и выходные данные от предоставляемых ею бизнес-услуг, включая ChatGPT Enterprise и его API — по умолчанию не используются для обучения или улучшения его моделей. Антропический Аналогичным образом, в нем говорится, что по умолчанию он не использует входные и выходные данные коммерческих продуктов для обучения моделей. Однако эти политики поставщика не определяют, как именно будут конфигурироваться развертывания PULSE.

⚖️ Управление и оценка: остаются ключевые вопросы

Начало пилотных полетов запланировано на [дата]. осень 2026 годаОжидается, что соответствующие руководства будут опубликованы в 2027 для использования в качестве справочного материала другими учреждениями здравоохранения.

Рамочная программа NIST по управлению рисками в сфере ИИ Рекомендуется оценивать системы искусственного интеллекта с учетом их предполагаемого использования, операционной среды, заинтересованных сторон и потенциальных последствий. Также рекомендуется определить, какие функции ИИ требуют человеческого контроля, и обучить пользователей пониманию производительности и ограничений системы.

Несмотря на это, CHAI не опубликовала Для пяти вариантов использования PULSE требуются отдельные критерии оценки, обеспечения конфиденциальности, безопасности или проверки человеком. В объявлении также не поясняется:

• Необходимо ли персоналу утвердить сгенерированные публичные сообщения или проверьте перевод перед использованием
• Ли полученная клиническая информация Перед началом эксплуатации будет проверено персоналом.
• Ли Результаты биомониторинга и анализа распространения наркотиков предназначены только для тестирования или интегрированы в рабочие процессы.
• Ли некорректные запросы или неполные результаты поиска Перед принятием мер на основании полученной информации она будет рассмотрена.

«От специалистов в области общественного здравоохранения требуют делать больше с меньшими ресурсами, и искусственный интеллект может в этом помочь — при условии, что его внедрение будет осуществляться с осторожностью и с соблюдением необходимых мер предосторожности».

— Элизабет КеллиРуководитель отдела выгодных инвестиций в компании Anthropic.

«Мы считаем, что искусственный интеллект должен быть полезным, безопасным и доступным для людей, решающих важнейшие социальные проблемы».

— Фелипе МиллонРуководитель отдела вывода продуктов на государственный рынок компании OpenAI

🏠 Кто имеет право участвовать?

В программе PULSE могут участвовать следующие лица:

• ✅ Государственные и территориальные департаменты здравоохранения
• ✅ Окружные и муниципальные учреждения
• ✅ Племенные власти и индийские организации здравоохранения
• ✅ Крупные городские департаменты здравоохранения

CHAI не указала минимальные требования к численности персонала, инфраструктуре, совместимости или кибербезопасности для участвующих юрисдикций. В объявлении также не объясняется, как в руководствах будут учитываться различия в размере ведомств, технических системах, юридических обязанностях, численности персонала или механизмах закупок.

📄 Более широкий контекст: Работа CHAI по управлению ИИ в здравоохранении

PULSE является частью более широкой работы CHAI по стандартам управления искусственным интеллектом в здравоохранении. В мае организация объявила о планах разработки руководства, охватывающего следующие аспекты: восемь областей управления посредством семинаров и рабочих групп, в которых участвуют более чем 150 представителей в сфере здравоохранения, использующих искусственный интеллект..

CHAI также сотрудничала с Объединенная комиссия в отношении руководств по управлению, соответствующих его добровольному Ответственное использование ИИ в здравоохранении сертификация. В объявлении PULSE не указано, что участвующие агентства будут оцениваться в рамках этой сертификации.

«Мы знаем, что искусственный интеллект изменит то, как мы оказываем медицинскую помощь населению — вопрос лишь в том, будем ли мы делать это обдуманно или нет».

— Доктор Ашиш Джабывший координатор Белого дома по борьбе с COVID-19

Доктор Брайан АндерсонИсполнительный директор Коалиции за искусственный интеллект в здравоохранении отметил, что органы здравоохранения вступили в пандемию COVID-19 после многих лет ограниченных инвестиций в технологии. Он сказал, что PULSE был разработан для того, чтобы предоставить этим органам необходимые инструменты. практический опыт работы с искусственным интеллектом прежде чем будет осуществлена ​​более широкая реализация.

🔗 Связанные статьи: Коалиция за искусственный интеллект в здравоохранении (CHAI) | Руководство HHS по HIPAA | Управление рисками в области искусственного интеллекта NIST