La FDA et le CDC testent des modèles d'OpenAI et d'Anthropic AI pour la santé publique

Les services de santé publique à travers les États-Unis s'apprêtent à tester des outils d'IA générative dans le cadre d'un nouveau programme structuré impliquant… Coalition pour l'IA en santé (CHAI), OpenAI, Anthropique, et Accenture.

L'initiative — appelée la Moteur de mise à l'échelle des cas d'utilisation et de l'apprentissage en santé publique (PULSE) — soutiendra les essais cliniques dans le cadre de 10 juridictions étatiques, locales, tribales ou territoriales, dans le but de produire des lignes directrices de mise en œuvre à l'intention des agences de santé publique envisageant des déploiements d'IA similaires.

« Le succès ou l’échec de toute transformation technologique majeure repose sur la confiance, la gouvernance et la mise en œuvre. Le programme PULSE accompagnera les organismes dans cette démarche et est spécifiquement conçu pour une mise en œuvre concrète. »

— Dr David Lakey, ancien commissaire à la santé du Texas

OpenAI et Anthropique ont chacun fait un don 10 licences d'entreprise avec une capacité allant jusqu'à 2 000 professionnels de la santé publiqueAccenture supervisera l'intégration des participants et contribuera à l'élaboration de guides de mise en œuvre fondés sur les résultats des essais. Le conseil d'administration de CHAI sélectionnera les juridictions participantes et affectera des experts aux communautés axées sur des cas d'usage spécifiques.

📋 Cinq cas d'utilisation en santé publique

Le projet PULSE se concentrera sur cinq domaines d'application définis pour l'IA générative dans le domaine de la santé publique :

• 🧬 Biosurveillance et prédiction des vagues de drogue
• 📍 Cartographie des déterminants sociaux de la santé (DSS)
• ⚙️ Analyse des opérations, de l'efficacité et des commentaires de la communauté
• 🌐 Centre de communication publique et de traduction multilingue
• 🏥 Moteur de requêtes FHIR et d'extraction automatisée de données cliniques

🔒 Considérations relatives à la confidentialité des données, à la loi HIPAA et à la sécurité

Certaines applications proposées peuvent impliquer données démographiques, géographiques, cliniques ou de santé publiqueCHAI n'a pas précisé si les projets pilotes utiliseront des données identifiables, des informations anonymisées, des données synthétiques ou des ensembles de données agrégées.

Le Département de la Santé et des Services sociaux des États-Unis exige des organisations couvertes par HIPAA Afin de protéger certaines informations de santé électroniques, ses directives relatives à l'informatique en nuage stipulent que les organismes réglementés et les fournisseurs de services doivent respecter les exigences de la loi HIPAA lorsque les systèmes en nuage créent, reçoivent, conservent ou transmettent des informations de santé électroniques protégées.

OpenAI indique que les intrants et les extrants de ses services aux entreprises — y compris ChatGPT Entreprise et son API ne sont pas utilisés par défaut pour entraîner ou améliorer ses modèles. Anthropique Il est également indiqué que, par défaut, PULSE n'utilise pas les entrées et sorties de produits commerciaux pour l'entraînement des modèles. Toutefois, ces politiques de fournisseur ne précisent pas la configuration exacte des déploiements PULSE.

⚖️ Gouvernance et évaluation : des questions essentielles demeurent

Les pilotes devraient commencer en automne 2026, et les manuels de jeu qui en résulteront devraient être publiés dans 2027 à utiliser comme document de référence par d'autres organismes de santé publique.

Cadre de gestion des risques liés à l'IA du NIST Il est recommandé d'évaluer les systèmes d'IA en fonction de leur usage prévu, de leur environnement d'exploitation, des parties concernées et des conséquences potentielles. Il est également recommandé d'identifier les fonctions d'IA nécessitant une supervision humaine et de former les utilisateurs à la compréhension des performances et des limites du système.

Malgré cela, CHAI n'a pas publié L’annonce ne précise pas non plus les exigences distinctes en matière d’évaluation, de confidentialité, de sécurité ou de vérification humaine pour les cinq cas d’utilisation de PULSE. Elle n’explique pas non plus :

• Que le personnel doive approuver les communications publiques générées ou vérifiez les traductions avant utilisation
• Si informations cliniques récupérées sera validé par le personnel avant utilisation opérationnelle
• Si biosurveillance et résultats des vagues de drogue sont destinés uniquement aux tests ou intégrés dans des flux de travail en production
• Si requêtes incorrectes ou récupérations incomplètes L'information sera examinée avant toute action.

« On demande aux équipes de santé publique de faire plus avec moins, et l'IA peut aider — à condition qu'elle soit mise en œuvre avec précaution et dans des conditions optimales. »

— Élisabeth Kelly, Responsable des déploiements bénéfiques chez Anthropic

« Nous pensons que l’IA doit être utile, sûre et accessible aux personnes qui s’attaquent aux défis les plus importants de la société. »

— Felipe Millon, responsable de la stratégie de commercialisation auprès des gouvernements chez OpenAI

🏠 Qui peut participer ?

Les participants admissibles au programme PULSE comprennent :

• ✅ Ministères de la Santé des États et des territoires
• ✅ Agences de comté et municipales
• ✅ Autorités tribales et organisations de santé indiennes
• ✅ Services de santé des grandes villes

CHAI n'a pas précisé les exigences minimales en matière de personnel, d'infrastructure, d'interopérabilité ou de cybersécurité pour les juridictions participantes. L'annonce n'explique pas non plus comment les guides pratiques tiendront compte des différences de taille des organismes, de systèmes techniques, de responsabilités juridiques, de personnel ou de modalités d'approvisionnement.

📄 Contexte plus large : Travaux de CHAI sur la gouvernance de l’IA dans le secteur de la santé

PULSE s'inscrit dans le cadre des travaux plus vastes de CHAI sur les normes de gouvernance de l'IA dans le domaine de la santé. En mai, l'organisation a annoncé son intention d'élaborer des lignes directrices couvrant huit domaines de gouvernance par le biais d'ateliers et de groupes de travail impliquant plus de 150 représentants de l'IA dans le domaine de la santé.

CHAI a également travaillé avec Commission conjointe sur des modèles de gouvernance alignés sur son volontariat Utilisation responsable de l'IA dans le secteur de la santé certification. L’annonce du programme PULSE ne précise pas que les organismes participants seront évalués au titre de cette certification.

« Nous savons que l’IA va remodeler la façon dont nous assurons la santé publique – la question est de savoir si nous le ferons de manière réfléchie ou non. »

— Dr Ashish Jha, ancien coordinateur de la réponse à la COVID-19 de la Maison Blanche

Dr Brian AndersonLe directeur général de la Coalition pour l'IA en santé a souligné que les agences de santé publique ont abordé la pandémie de COVID-19 après des années d'investissements technologiques limités. Il a précisé que le système PULSE avait été conçu pour fournir aux agences… expérience pratique et concrète avec l'IA avant toute mise en œuvre plus large.

🔗 Liens connexes : Coalition pour l'IA en santé (CHAI) | Directives HIPAA du HHS | Gestion des risques liés à l'IA selon le NIST