FDA und CDC testen OpenAI- und anthropische KI-Modelle für die öffentliche Gesundheit

Öffentliche Gesundheitsbehörden in den gesamten Vereinigten Staaten werden im Rahmen eines neuen strukturierten Programms generative KI-Werkzeuge erproben. Koalition für KI im Gesundheitswesen (CHAI), OpenAI, Anthropisch, Und AccentureDie

Die Initiative – genannt Anwendungsfall im Bereich der öffentlichen Gesundheit und Lernskalierungsplattform (PULSE) — wird Versuche in verschiedenen Bereichen unterstützen 10 staatliche, lokale, Stammes- oder territoriale GerichtsbarkeitenZiel ist es, Implementierungsleitfäden für Gesundheitsbehörden zu erstellen, die ähnliche KI-Einsätze erwägen.

„Jede größere technologische Transformation steht und fällt mit Vertrauen, Steuerung und Umsetzung. PULSE wird Behörden bei diesem Vorhaben unterstützen und ist speziell für die praktische Anwendung konzipiert.“

— Dr. David Lakey, ehemaliger Gesundheitskommissar von Texas

OpenAI und Anthropic haben jeweils gespendet 10 Unternehmenslizenzen mit einer Kapazität von bis zu 2.000 Fachkräfte im Bereich der öffentlichen GesundheitAccenture wird die Einarbeitung der Teilnehmenden betreuen und auf Grundlage der Testergebnisse Implementierungsleitfäden entwickeln. Der Führungsrat von CHAI wird die teilnehmenden Regionen auswählen und die Fachkräfte den auf spezifische Anwendungsfälle fokussierten Gemeinschaften zuordnen.

📋 Fünf Anwendungsfälle im Bereich der öffentlichen Gesundheit

PULSE wird sich auf fünf definierte Anwendungsbereiche für generative KI im Bereich der öffentlichen Gesundheit konzentrieren:

• 🧬 Biosurveillance und Vorhersage von Drogenwellen
• 📍 Kartierung der sozialen Determinanten der Gesundheit (SDG)
• ⚙️ Betriebs-, Effizienz- und Community-Feedback-Analyse
• 🌐 Zentrum für öffentliche Kommunikation und mehrsprachige Übersetzung
• 🏥 Automatisierte klinische Datenabfrage und FHIR-Abfrage-Engine

🔒 Datenschutz, HIPAA und Sicherheitsaspekte

Einige der vorgeschlagenen Anwendungen könnten Folgendes beinhalten: demografische, geografische, klinische oder bevölkerungsbezogene GesundheitsdatenCHAI hat nicht offengelegt, ob die Pilotprojekte identifizierbare Datensätze, anonymisierte Informationen, synthetische Daten oder aggregierte Datensätze verwenden werden.

Der US-Gesundheitsministerium erfordert Organisationen, die unter Folgendes fallen HIPAA zum Schutz bestimmter elektronischer Gesundheitsdaten. Die Richtlinien für Cloud-Computing besagen, dass regulierte Organisationen und Dienstleister die HIPAA-Anforderungen erfüllen müssen, wenn Cloud-Systeme elektronische geschützte Gesundheitsdaten erstellen, empfangen, verwalten oder übermitteln.

OpenAI gibt an, dass die Inputs und Outputs seiner Geschäftsdienstleistungen – einschließlich ChatGPT Enterprise und seine API werden standardmäßig nicht zum Trainieren oder Verbessern seiner Modelle verwendet. Anthropisch Ebenso wird angegeben, dass standardmäßig keine Eingaben und Ausgaben von kommerziellen Produkten für das Modelltraining verwendet werden. Diese Anbieterrichtlinien legen jedoch nicht fest, wie die PULSE-Implementierungen konkret konfiguriert werden.

⚖️ Governance und Evaluation: Wichtige Fragen bleiben offen

Die Pilotprojekte sollen im Jahr beginnen Herbst 2026Die daraus resultierenden Spielpläne werden voraussichtlich im Jahr 2016 veröffentlicht. 2027 zur Verwendung als Referenzmaterial durch andere Gesundheitsbehörden.

Rahmenwerk des NIST für das KI-Risikomanagement Es wird empfohlen, KI-Systeme anhand ihres Verwendungszwecks, ihres Betriebsumfelds, der betroffenen Parteien und der potenziellen Folgen zu bewerten. Außerdem wird empfohlen, diejenigen KI-Funktionen zu identifizieren, die menschliche Aufsicht erfordern, und die Nutzer darin zu schulen, die Systemleistung und -grenzen zu verstehen.

Trotz dieses, CHAI hat nicht veröffentlicht Es gelten separate Anforderungen hinsichtlich Bewertung, Datenschutz, Sicherheit oder menschlicher Überprüfung für die fünf PULSE-Anwendungsfälle. Die Ankündigung erklärt außerdem nicht:

• Ob das Personal Genehmigung der generierten öffentlichen Mitteilungen oder überprüfen Sie die Übersetzungen vor der Verwendung
• Ob abgerufene klinische Informationen wird vor der operativen Nutzung vom Personal geprüft.
• Ob Ergebnisse der Biosurveillance und der Drogenwelle dienen nur Testzwecken oder sind in Live-Workflows integriert?
• Ob fehlerhafte Anfragen oder unvollständige Abrufe Die Informationen werden geprüft, bevor darauf reagiert wird.

„Die Teams im Bereich der öffentlichen Gesundheit stehen vor der Herausforderung, mit weniger Ressourcen mehr zu leisten, und KI kann dabei helfen – vorausgesetzt, sie wird mit Bedacht und unter Einhaltung der richtigen Schutzmaßnahmen eingesetzt.“

— Elizabeth Kelly, Leiter der Abteilung für wohltätige Einsätze bei Anthropic

„Wir glauben, dass KI nützlich, sicher und für die Menschen zugänglich sein sollte, die sich mit den wichtigsten Herausforderungen unserer Gesellschaft auseinandersetzen.“

— Felipe Millon, Leiter der Regierungs-Go-to-Market-Abteilung von OpenAI

🏠 Wer ist teilnahmeberechtigt?

Teilnahmeberechtigte Personen im Rahmen des PULSE-Programms sind:

• ✅ Staatliche und territoriale Gesundheitsbehörden
• ✅ Kreis- und Gemeindebehörden
• ✅ Stammesbehörden und indische Gesundheitsorganisationen
• ✅ Große städtische Gesundheitsämter

CHAI hat keine Mindestanforderungen an Personal, Infrastruktur, Interoperabilität oder Cybersicherheit für die teilnehmenden Jurisdiktionen festgelegt. Die Ankündigung erläutert auch nicht, wie die Handlungsanweisungen Unterschiede in der Größe der Behörden, den technischen Systemen, den rechtlichen Zuständigkeiten, dem Personalbestand oder den Beschaffungsmodalitäten berücksichtigen werden.

📄 Weiterführender Kontext: Die Arbeit von CHAI im Bereich der KI-Governance im Gesundheitswesen

PULSE ist Teil der umfassenderen Arbeit von CHAI an Governance-Standards für KI im Gesundheitswesen. Im Mai kündigte die Organisation Pläne zur Entwicklung von Leitlinien an, die Folgendes umfassen: acht Regierungsbereiche durch Workshops und Arbeitsgruppen mit mehr als 150 Vertreter der KI im GesundheitswesenDie

CHAI hat auch mit dem Gemeinsame Kommission auf Governance-Leitfäden abgestimmt sind, die sich an seinen freiwilligen Verantwortungsvoller Einsatz von KI im Gesundheitswesen Zertifizierung. Die PULSE-Ankündigung gibt nicht an, dass die teilnehmenden Agenturen im Rahmen dieser Zertifizierung bewertet werden.

„Wir wissen, dass KI die Art und Weise, wie wir die öffentliche Gesundheit gewährleisten, verändern wird – die Frage ist, ob wir dies überlegt tun oder nicht.“

— Dr. Ashish Jhaehemaliger Koordinator der COVID-19-Reaktionsgruppe des Weißen Hauses

Dr. Brian AndersonDer Geschäftsführer der Coalition for Health AI merkte an, dass die Gesundheitsbehörden nach Jahren begrenzter Investitionen in Technologie in die COVID-19-Pandemie eingetreten seien. Er sagte, PULSE sei entwickelt worden, um den Behörden … praktische, handfeste Erfahrung mit KI bevor eine breitere Implementierung erfolgt.

🔗 Verwandte Themen: Koalition für KI im Gesundheitswesen (CHAI) | HHS HIPAA-Leitfaden | NIST KI-Risikomanagement