FDA e CDC testam modelos de IA aberta e antropogênica para saúde pública.

Departamentos de saúde pública em todos os Estados Unidos estão se preparando para testar ferramentas de IA generativa em um novo programa estruturado que envolve... Coalizão para IA na Saúde (CHAI), OpenAI, Antrópico, e Accenture.

A iniciativa — chamada de Mecanismo de dimensionamento de aprendizado e caso de uso em saúde pública (PULSE) — apoiará ensaios em todo o 10 jurisdições estaduais, locais, tribais ou territoriais, com o objetivo de produzir orientações de implementação para agências de saúde pública que estejam considerando implantações semelhantes de IA.

“Toda grande transformação tecnológica tem sucesso ou fracassa com base na confiança, na governança e na execução. O PULSE apoiará as agências nesse esforço e foi projetado especificamente para implementação prática.”

— Dr. David Lakey, ex-comissário de saúde do Texas

OpenAI e Antrópico cada um deles doou 10 licenças empresariais com capacidade para até 2.000 profissionais de saúde públicaA Accenture supervisionará a integração dos participantes e ajudará a desenvolver manuais de implementação com base nos resultados dos testes. O conselho de liderança da CHAI selecionará as jurisdições participantes e designará profissionais para comunidades focadas em casos de uso específicos.

📋 Cinco casos de uso em saúde pública

O projeto PULSE se concentrará em cinco áreas de aplicação definidas para IA generativa em contextos de saúde pública:

• 🧬 Biovigilância e previsão de ondas de drogas
• 📍 Mapeamento dos determinantes sociais da saúde (DSS)
• ⚙️ Análise de operações, eficiência e feedback da comunidade
• 🌐 Centro de comunicações públicas e tradução multilíngue
• 🏥 Mecanismo automatizado de recuperação de dados clínicos e consulta FHIR

🔒 Privacidade de dados, HIPAA e considerações de segurança

Algumas aplicações propostas podem envolver dados demográficos, geográficos, clínicos ou de saúde populacionalA CHAI não divulgou se os projetos-piloto usarão registros identificáveis, informações anonimizadas, dados sintéticos ou conjuntos de dados agregados.

O Departamento de Saúde e Serviços Humanos dos EUA exige que as organizações abrangidas por HIPAA Para proteger determinadas informações eletrônicas de saúde, a HIPAA (Lei de Portabilidade e Responsabilidade de Seguros de Saúde) estabelece que suas diretrizes de computação em nuvem determinam que organizações regulamentadas e provedores de serviços devem atender aos requisitos da HIPAA quando sistemas em nuvem criam, recebem, mantêm ou transmitem informações eletrônicas de saúde protegidas.

OpenAI afirma que as entradas e saídas de seus serviços comerciais — incluindo ChatGPT Enterprise e sua API — não são usadas para treinar ou aprimorar seus modelos por padrão. Antrópico De forma semelhante, afirma que não utiliza, por padrão, entradas e saídas de produtos comerciais para o treinamento de modelos. No entanto, essas políticas do provedor não definem especificamente como as implementações do PULSE serão configuradas.

⚖️ Governança e Avaliação: Questões-chave permanecem sem resposta

Os voos piloto estão programados para começar em outono de 2026, com os manuais resultantes previstos para serem lançados em 2027 Para ser utilizado como material de referência por outras agências de saúde pública.

Estrutura de Gestão de Riscos de IA do NIST Recomenda-se avaliar os sistemas de IA de acordo com sua finalidade, ambiente operacional, partes afetadas e potenciais consequências. Recomenda-se também identificar quais funções de IA exigem supervisão humana e treinar os usuários para que compreendam o desempenho e as limitações do sistema.

Apesar disso, A CHAI não publicou O anúncio também não explica os requisitos de avaliação, privacidade, segurança ou revisão humana separados para os cinco casos de uso do PULSE.

• Se a equipe deve aprovar comunicações públicas geradas ou verifique as traduções antes de usar
• Se informações clínicas recuperadas Será validado pela equipe antes do uso operacional.
• Se biovigilância e resultados da onda de drogas São apenas para testes ou integradas em fluxos de trabalho em produção.
• Se consultas incorretas ou recuperações incompletas As informações serão analisadas antes que qualquer ação seja tomada.

“As equipes de saúde pública estão sendo solicitadas a fazer mais com menos, e a IA pode ajudar — desde que seja introduzida com cuidado e com as devidas precauções.”

— Elizabeth Kelly, Chefe de Implantações Benéficas da Anthropic

“Acreditamos que a IA deve ser útil, segura e acessível às pessoas que enfrentam os desafios mais importantes da sociedade.”

— Felipe Milhões, Chefe de Estratégia de Entrada no Mercado Governamental da OpenAI

🏠 Quem pode participar?

Os participantes elegíveis no âmbito do programa PULSE incluem:

• ✅ Secretarias de saúde estaduais e territoriais
• ✅ Agências municipais e do condado
• ✅ Autoridades tribais e organizações de saúde indígenas
• ✅ Departamentos de saúde de grandes cidades

A CHAI não especificou os requisitos mínimos de pessoal, infraestrutura, interoperabilidade ou segurança cibernética para as jurisdições participantes. O anúncio também não explica como os manuais levarão em conta as diferenças no tamanho das agências, sistemas técnicos, responsabilidades legais, pessoal ou acordos de aquisição.

📄 Contexto mais amplo: Trabalho da CHAI sobre governança de IA na área da saúde

O PULSE faz parte do trabalho mais amplo da CHAI sobre padrões de governança para IA na área da saúde. Em maio, a organização anunciou planos para desenvolver diretrizes que abrangem oito áreas de governança por meio de oficinas e grupos de trabalho que envolvem mais de 150 representantes de IA na área da saúde.

A CHAI também trabalhou com a Comissão Conjunta em manuais de governança alinhados com sua iniciativa voluntária Uso responsável da IA ​​na área da saúde Certificação. O anúncio do PULSE não afirma que as agências participantes serão avaliadas sob essa certificação.

“Sabemos que a IA vai remodelar a forma como prestamos serviços de saúde pública — a questão é se o faremos de forma ponderada ou não.”

— Dr. Ashish Jha, ex-coordenador da resposta à COVID-19 na Casa Branca

Dr. Brian AndersonO diretor executivo da Coalizão para IA na Saúde observou que as agências de saúde pública entraram na pandemia de COVID-19 após anos de investimento limitado em tecnologia. Ele afirmou que o PULSE foi projetado para fornecer às agências Experiência prática e direta com IA antes que ocorra qualquer implementação mais ampla.

🔗 Relacionado: Coalizão para IA na Saúde (CHAI) | Diretrizes do HHS sobre a HIPAA | Gestão de riscos de IA do NIST