Investigación sobre biorresiliencia de Google DeepMind AI: lo que necesitas saber

Google DeepMind y Laboratorios isomórficos Han diseñado un programa integral de biorresiliencia destinado a frenar el uso indebido de la IA en biología, al tiempo que refuerzan las capacidades de respuesta ante brotes epidémicos.

Las dos organizaciones publicaron una actualización sobre una iniciativa conjunta que comenzó discretamente y desde entonces se ha expandido. más de 15 asociaciones con organismos gubernamentales, organizaciones de bioseguridad y grupos de investigación durante los últimos 12 meses.

📌 El mismo conocimiento que ayuda a un investigador a mapear un objetivo de vacuna podría, en principio, ayudar a un actor de amenazas a cerrar brechas en su propia comprensión, un desafío que DeepMind describe como un doble mandato.

Los modelos de vanguardia como Gemini poseen una comprensión cada vez más detallada de la biología. DeepMind reconoce que al combinar estos sistemas con modelos biológicos especializados, agentes como su Plataforma antigravedady las bases de datos de terceros perfeccionarán aún más esa capacidad. La misión del programa: impulsar los avances científicos que la IA de vanguardia hace posibles, al tiempo que se mantienen esas mismas herramientas alejadas de posibles actores malintencionados.

🏗 Tres pilares del programa

Según las empresas, el programa se basa en tres pilares fundamentales:

• 🔒 Prevención del mal uso de herramientas biológicas impulsadas por IA
• 🔍 Detección de brotes más rápido mediante secuenciación avanzada
• ⚡ Respondiendo rápidamente una vez que se inicia un brote o un ataque.

Las más de 15 alianzas abarcan los tres pilares. Entre los colaboradores mencionados se incluyen: Laboratorio Nacional Lawrence Livermore, el Instituto de Seguridad de la IA del Reino Unido, YO COMENZÉy el Instituto Francis CrickDeepMind afirma que pretende ampliar estas relaciones en los próximos seis a doce meses, centrándose en la inteligencia sobre amenazas, los métodos de evaluación de agentes de IA y las medidas de mitigación de jailbreak. También está coordinando con la Foro de modelos Frontier sobre cuestiones como la forma de gestionar las categorías de datos de entrenamiento más riesgosas; el ejemplo que se da son los conjuntos de datos de virología.

🔐 Cómo controlar a Géminis sin bloquear la ciencia legítima

El trabajo de prevención se basa en modelos de amenazas diseñados para identificar qué actores tienen más probabilidades de intentar un uso indebido y qué obstáculos actualmente se lo impiden. DeepMind afirma que utiliza una combinación de equipo rojo experto y ensayos controlados aleatorios para determinar si Géminis podría ayudar a alguien a superar esos obstáculos.

Los métodos posteriores al entrenamiento están diseñados para enseñar al modelo a rechazar consultas dañinas mientras evita lo que la empresa llama "rechazo excesivo" de cuestiones científicas legítimas: un equilibrio que ha resultado difícil de lograr en toda la industria. Se implementan clasificadores y sondas para detectar actividades de riesgo en tiempo real, y se utiliza un análisis de registros específico para identificar patrones de uso indebido más sutiles que los filtros automatizados podrían pasar por alto.

⚠️ Advertencia importante: Ninguna de estas medidas de mitigación se considera resuelta. Un clasificador ajustado contra patrones de jailbreak conocidos en una evaluación controlada no garantiza un rendimiento equivalente frente a nuevos métodos de ataque en situaciones reales, y DeepMind no afirma lo contrario.

🧬 El problema de la detección de la síntesis de ADN

Uno de los riesgos más concretos que se están explorando implica síntesis de ADNLas empresas que forman parte del Consorcio Internacional de Síntesis de Genes actualmente examinan los pedidos comparándolos con listas de patógenos y toxinas dañinas conocidas, junto con algoritmos de detección. DeepMind afirma claramente que Este enfoque está empezando a desmoronarse. — porque la IA ahora puede ayudar a diseñar secuencias de ADN con una función similar a la de un patógeno peligroso sin que su secuencia coincida lo suficiente como para activar los sistemas de detección existentes.

La solución propuesta toma prestado del sistema de marca de agua existente de DeepMind, SynthIDSegún la empresa, se ha convertido en un estándar del sector para el marcado de imágenes y texto generados por IA. Su adaptación a secuencias biológicas se presenta como un trabajo exploratorio, no como un producto comercializado.

Un objetivo a largo plazo, descrito como un desafío técnico abierto en lugar de algo cercano a resuelto, implica un cribado que predice si una nueva secuencia de ADN es probablemente tóxica o patógena en función de su función, independientemente de si se parece a algo en las bases de datos existentes.

🔬 Secuenciación más económica como capa de detección

La detección depende de secuenciación metagenómicaEste método caracteriza a cada microorganismo en una muestra, en lugar de buscar una lista reducida de patógenos conocidos como hacen los diagnósticos tradicionales. El factor limitante es el costo, y para extender este enfoque a las regiones donde es más probable que se originen los brotes, es necesario que dicho costo disminuya considerablemente.

DeepMind señala una colaboración entre Google y Biociencias del Pacífico que usó su AlphaEvolve agente de codificación para mejorar la precisión de la secuenciación como un punto de datos hacia ese objetivo. La compañía dice que ahora está buscando más oportunidades, desde optimizar los algoritmos que procesan los datos de secuenciación hasta informar el diseño del hardware, y explorando por separado si AlphaGenome podría ayudar a caracterizar los patógenos directamente a partir de datos de secuenciación.

📍 Estos permanecen colaboraciones de investigación en lugar de sistemas desplegados sobre el terreno.La diferencia entre una mejora en la precisión de la secuenciación en un sistema controlado y una red de alerta temprana que funcione correctamente en los centros de tratamiento de aguas residuales y de transporte en entornos con recursos limitados no es pequeña.

📊 El historial de publicaciones de AlphaFold y la brecha en las contramedidas

El pilar de respuesta se apoya en la brecha de contramedidas médicas que deja a muchos patógenos conocidos sin un diagnóstico, vacuna o tratamiento autorizados. DeepMind cita más de 10.000 publicaciones sobre enfermedades infecciosas que han hecho referencia AlphaFold durante cinco años, abarcando trabajos sobre tuberculosis, transmisión de malaria y mapeo de objetivos para amenazas, incluyendo Mpox y Nipah.

La incorporación más reciente a ese registro es una asociación con Programa de biorresiliencia de Lawrence Livermore, que planea utilizar AlphaFold 3 para el trabajo de diseño de anticuerpos de amplio espectro, incluido un esfuerzo de anticuerpos pan-filovirus. DeepMind dice que continuará agregando estructuras y complejos de proteínas a la Base de datos de estructuras de proteínas AlphaFoldpriorizando los objetivos relevantes para el desarrollo de contramedidas.

Acceso a sistemas de agentes más nuevos, incluyendo: Co-científico, se está extendiendo a investigadores seleccionados, entre ellos científicos en el Laboratorios Nacionales del Departamento de Energía de Estados Unidos trabajando bajo la Misión Génesis.

Laboratorios isomórficos ha ido un paso más allá, estableciendo una unidad dedicada destinada a desplegar rápidamente su motor de diseño de fármacos durante un nuevo brote, trabajando junto con el gobierno y los organismos nacionales de investigación. La empresa también se comprometió 7 millones de dólares a Health for Human Potential, un programa de Philanthropy Asia Alliance, para la investigación de enfermedades infecciosas en toda Asia.

🏛️ Recomendaciones políticas de DeepMind a los legisladores estadounidenses

Las recomendaciones de DeepMind a los responsables políticos estadounidenses se corresponden directamente con sus tres pilares y citan legislación pendiente específica:

🕐 Ninguna de esas leyes ha sido promulgada todavía. La brecha entre la lista de deseos políticos de una empresa y un marco federal de bioseguridad que funcione correctamente es donde se pondrá a prueba este programa de verdad durante los próximos 6 a 12 meses.