La FDA y los CDC prueban modelos de IA abierta y antrópica para la salud pública.

Los departamentos de salud pública de todo Estados Unidos están listos para probar herramientas de IA generativa bajo un nuevo programa estructurado que involucra a Coalición para la IA en Salud (CHAI), OpenAI, Antrópico, y Accenture.

La iniciativa, llamada Motor de escalado de aprendizaje y casos de uso en salud pública (PULSE) — apoyará ensayos en todo el mundo 10 jurisdicciones estatales, locales, tribales o territorialescon el objetivo de elaborar directrices de implementación para los organismos de salud pública que estén considerando despliegues de IA similares.

“Toda transformación tecnológica importante tiene éxito o fracasa en función de la confianza, la gobernanza y la ejecución. PULSE brindará apoyo a las agencias en este empeño y está diseñado específicamente para su implementación práctica.”

— Dr. David Lakey, excomisionado de salud de Texas

OpenAI y Antropía cada uno ha donado 10 licencias empresariales con capacidad para hasta 2.000 profesionales de la salud públicaAccenture supervisará la incorporación de los participantes y ayudará a desarrollar manuales de implementación basados ​​en los resultados de los ensayos. El consejo directivo de CHAI seleccionará las jurisdicciones participantes y asignará profesionales a comunidades centradas en casos de uso específicos.

📋 Cinco casos de uso en salud pública

PULSE se centrará en cinco áreas de aplicación definidas para la IA generativa en entornos de salud pública:

• 🧬 Biovigilancia y predicción de oleadas de drogas
• 📍 Mapeo de los determinantes sociales de la salud (DSS).
• ⚙️ Análisis de operaciones, eficiencia y retroalimentación de la comunidad
• 🌐 Centro de comunicaciones públicas y traducción multilingüe
• 🏥 Motor de recuperación automatizada de datos clínicos y de consultas FHIR

🔒 Privacidad de datos, HIPAA y consideraciones de seguridad

Algunas aplicaciones propuestas pueden incluir datos demográficos, geográficos, clínicos o de salud poblacionalCHAI no ha revelado si los pilotos utilizarán registros identificables, información anonimizada, datos sintéticos o conjuntos de datos agregados.

El Departamento de Salud y Servicios Humanos de los Estados Unidos requiere que las organizaciones cubiertas por HIPAA para proteger cierta información electrónica de salud. Su guía sobre computación en la nube establece que las organizaciones reguladas y los proveedores de servicios deben cumplir con los requisitos de HIPAA cuando los sistemas en la nube crean, reciben, mantienen o transmiten información electrónica protegida de salud.

OpenAI afirma que los insumos y productos de sus servicios comerciales, incluidos ChatGPT Enterprise y su API no se utilizan para entrenar o mejorar sus modelos de forma predeterminada. Antrópico Asimismo, declara que, por defecto, no utiliza entradas ni salidas de productos comerciales para el entrenamiento de modelos. Sin embargo, estas políticas del proveedor no definen cómo se configurarán específicamente las implementaciones de PULSE.

⚖️ Gobernanza y evaluación: Persisten preguntas clave

Está previsto que los pilotos comiencen en otoño de 2026, y se espera que los manuales de jugadas resultantes se publiquen en 2027 para su uso como material de referencia por otros organismos de salud pública.

Marco de gestión de riesgos de IA del NIST Recomienda evaluar los sistemas de IA según su uso previsto, entorno operativo, partes afectadas y posibles consecuencias. Asimismo, recomienda identificar qué funciones de IA requieren supervisión humana y capacitar a los usuarios para que comprendan el rendimiento y las limitaciones del sistema.

A pesar de esto, CHAI no ha publicado Requisitos separados de evaluación, privacidad, seguridad o revisión humana para los cinco casos de uso de PULSE. El anuncio tampoco explica:

• Si el personal debe aprobar las comunicaciones públicas generadas o verifique las traducciones antes de usarlas.
• Si información clínica recuperada Será validado por el personal antes de su uso operativo.
• Si Biovigilancia y resultados de la ola de drogas son solo para pruebas o integrados en flujos de trabajo en vivo
• Si consultas incorrectas o recuperaciones incompletas Se revisará la información antes de tomar cualquier medida.

“Se está pidiendo a los equipos de salud pública que hagan más con menos, y la IA puede ayudar, siempre y cuando se implemente con cuidado y con las salvaguardias adecuadas.”

— Elizabeth Kelly, Jefe de Implementaciones Beneficiosas de Anthropic

“Creemos que la IA debe ser útil, segura y accesible para las personas que se enfrentan a los desafíos más importantes de la sociedad.”

— Felipe Millon, Jefe de Estrategia de Comercialización Gubernamental de OpenAI

🏠 ¿Quiénes pueden participar?

Los participantes elegibles en el marco del programa PULSE incluyen:

• ✅ Departamentos de salud estatales y territoriales
• ✅ Agencias del condado y del municipio
• ✅ Autoridades tribales y organizaciones de salud indígenas
• ✅ Departamentos de salud de grandes ciudades

CHAI no ha especificado los requisitos mínimos de personal, infraestructura, interoperabilidad ni ciberseguridad para las jurisdicciones participantes. El anuncio tampoco explica cómo se tendrán en cuenta las diferencias en el tamaño de las agencias, los sistemas técnicos, las responsabilidades legales, el personal o los acuerdos de adquisición.

📄 Contexto más amplio: El trabajo de CHAI en materia de gobernanza de la IA en el sector sanitario

PULSE forma parte del trabajo más amplio de CHAI sobre estándares de gobernanza para la IA en el sector sanitario. En mayo, la organización anunció planes para desarrollar una guía que abarca ocho áreas de gobernanza a través de talleres y grupos de trabajo que involucran a más de 150 representantes de IA en el sector sanitario.

CHAI también ha trabajado con el Comisión Conjunta sobre manuales de gobernanza alineados con su voluntariado Uso responsable de la IA en la atención sanitaria certificación. El anuncio de PULSE no indica que las agencias participantes serán evaluadas bajo esa certificación.

“Sabemos que la IA va a transformar la forma en que brindamos servicios de salud pública; la cuestión es si lo haremos de manera reflexiva o no.”

— Dr. Ashish Jha, ex coordinador de la respuesta de la Casa Blanca ante el COVID-19

Dr. Brian AndersonEl director ejecutivo de la Coalición para la IA en Salud señaló que las agencias de salud pública entraron en la pandemia de COVID-19 después de años de inversión limitada en tecnología. Dijo que PULSE fue diseñado para brindar a las agencias Experiencia práctica con la IA antes de que se lleve a cabo una implementación más amplia.

🔗 Relacionado: Coalición para la IA en Salud (CHAI) | Guía HIPAA del HHS | Gestión de riesgos de IA del NIST