Recherche de Google DeepMind sur la biorésilience par l'IA : ce qu'il faut savoir

Google DeepMind et Laboratoires isomorphiques ont élaboré un programme complet de biorésilience visant à limiter le mésusage de l'IA en biologie tout en renforçant les capacités de réponse aux épidémies.

Les deux organisations ont publié une mise à jour sur une initiative conjointe qui a débuté discrètement et qui s'est depuis développée. plus de 15 partenariats avec des organismes gouvernementaux, des organisations de biosécurité et des groupes de recherche au cours des 12 derniers mois.

📌 Les mêmes connaissances qui permettent à un chercheur de cartographier une cible vaccinale pourraient, en principe, aider un acteur malveillant à combler les lacunes de sa propre compréhension — un défi que DeepMind décrit comme un double mandat.

Les modèles de pointe tels que Gemini intègrent une compréhension de plus en plus détaillée de la biologie. DeepMind reconnaît qu'en associant ces systèmes à des modèles biologiques spécialisés, des agents comme les siens pourraient être obtenus. Plateforme antigravitéLes bases de données tierces ne feront qu'amplifier cette capacité. La mission du programme : permettre les avancées scientifiques rendues possibles par l'IA de pointe, tout en protégeant ces mêmes outils des personnes mal intentionnées.

🏗 Les trois piliers du programme

Selon les entreprises, le programme repose sur trois piliers fondamentaux :

• 🔒 Prévenir les abus des outils biologiques alimentés par l'IA
• 🔍 Détection des épidémies plus rapide grâce au séquençage avancé
• ⚡ Répondre rapidement une fois qu'une épidémie ou une attaque est en cours.

Les plus de 15 partenariats concernent les trois piliers. Parmi les collaborateurs nommés figurent : Laboratoire national Lawrence Livermore, le Institut britannique de sécurité de l'IA, J'AI COMMENCÉet le Institut Francis CrickDeepMind indique son intention d'élargir ces relations au cours des six à douze prochains mois, en se concentrant sur le renseignement sur les menaces, les méthodes d'évaluation des agents d'IA et les mesures d'atténuation des risques de jailbreak. L'entreprise coordonne également ses efforts avec… Forum des modèles Frontier sur des questions telles que la manière de gérer les catégories de données d'entraînement plus risquées — les ensembles de données virologiques étant l'exemple cité.

🔐 Maîtriser le signe des Gémeaux sans bloquer la science légitime

Le travail de prévention repose sur la modélisation des menaces, conçue pour identifier les acteurs les plus susceptibles de tenter un usage abusif et les obstacles qui les en empêchent actuellement. DeepMind indique utiliser une combinaison de équipe rouge d'experts et essais contrôlés randomisés pour déterminer si Gemini pourrait aider quelqu'un à lever ces obstacles.

Les méthodes de post-formation sont conçues pour apprendre au modèle à refuser les requêtes malveillantes tout en évitant ce que l'entreprise appelle « refus excessif » Il s'agit de répondre à des questions scientifiques légitimes, un équilibre qui s'est avéré difficile à trouver dans l'ensemble du secteur. Des classificateurs et des sondes sont déployés pour signaler les activités à risque en temps réel, et une analyse ciblée des journaux permet de déceler des schémas d'utilisation abusive plus subtils que les filtres automatisés pourraient manquer.

⚠️ Avertissement important : Aucune de ces solutions n'est considérée comme résolue. Un classificateur optimisé pour des schémas de jailbreak connus lors d'une évaluation contrôlée ne garantit pas des performances équivalentes face à de nouvelles méthodes d'attaque en conditions réelles d'utilisation – et DeepMind ne prétend pas le contraire.

🧬 Le problème du criblage de la synthèse d'ADN

L'un des risques les plus concrets actuellement à l'étude concerne Synthèse d'ADNLes entreprises membres du Consortium international de synthèse génique vérifient actuellement les commandes en les comparant à des listes d'agents pathogènes et de toxines connus, à l'aide d'algorithmes de dépistage. DeepMind l'affirme clairement : Cette approche commence à se fragiliser. — car l’IA peut désormais aider à concevoir des séquences d’ADN ayant une fonction similaire à celle d’un agent pathogène dangereux sans pour autant correspondre suffisamment à sa séquence pour déclencher les tests existants.

La solution proposée s'inspire du système de tatouage numérique existant de DeepMind. SynthIDCette technologie, selon l'entreprise, est devenue une norme industrielle pour le marquage d'images et de textes générés par l'IA. Son adaptation aux séquences biologiques est présentée comme un travail exploratoire, et non comme un produit commercialisé.

Un objectif à plus long terme — décrit comme un défi technique ouvert plutôt que quelque chose de presque résolu — implique un criblage qui prédit si une nouvelle séquence d'ADN est susceptible d'être toxique ou pathogène en fonction de sa fonction, indépendamment du fait qu'elle ressemble ou non à quoi que ce soit dans les bases de données existantes.

🔬 Séquençage moins coûteux comme couche de détection

La détection dépend de séquençage métagénomiqueCette méthode, qui caractérise chaque micro-organisme d'un échantillon au lieu de se limiter à une liste restreinte d'agents pathogènes connus comme le font les diagnostics traditionnels, présente un inconvénient majeur : son coût. Pour étendre cette approche aux régions les plus susceptibles de connaître des épidémies, il est indispensable de réduire considérablement ce coût.

DeepMind évoque une collaboration entre Google et Pacific Biosciences qui a utilisé son AlphaEvolve L'agent de codage vise à améliorer la précision du séquençage, un élément parmi d'autres contribuant à cet objectif. L'entreprise indique explorer d'autres pistes, de l'optimisation des algorithmes de traitement des données de séquençage à l'aide à la conception matérielle, et étudie par ailleurs si… AlphaGenome pourrait permettre de caractériser directement les agents pathogènes à partir des données de séquençage.

📍 Ceux-ci restent des collaborations de recherche plutôt que des systèmes déployés sur le terrainL'écart entre un gain de précision de séquençage dans un pipeline contrôlé et un réseau d'alerte précoce fonctionnel pour les centres de traitement des eaux usées et de transit dans des contextes à faibles ressources n'est pas négligeable.

📊 Bilan de publication d'AlphaFold et lacunes en matière de contre-mesures

Le pilier de la réponse s'appuie sur le manque de contre-mesures médicales, qui fait que de nombreux agents pathogènes connus ne disposent ni de diagnostic, ni de vaccin, ni de traitement homologué. DeepMind cite plus de 10 000 publications sur les maladies infectieuses qui ont fait référence à AlphaFold sur plus de cinq ans, couvrant les travaux sur la tuberculose, la transmission du paludisme et la cartographie des cibles pour les menaces, notamment Mpox et Nipah.

Le dernier ajout à cette liste est un partenariat avec Le programme de biorésilience de Lawrence Livermore, qui prévoit d'utiliser AlphaFold 3 pour des travaux de conception d'anticorps à large spectre, notamment un projet d'anticorps pan-filovirus. DeepMind indique qu'elle continuera d'ajouter des structures et des complexes protéiques à la base de données. Base de données de structures protéiques AlphaFold, en priorisant les cibles pertinentes pour le développement de contre-mesures.

Accès aux systèmes d'agents plus récents, y compris Co-scientifique, est étendue à certains chercheurs — parmi lesquels des scientifiques de Laboratoires nationaux du département de l'Énergie des États-Unis travaillant sous la direction de Mission Genesis.

Laboratoires isomorphiques L'entreprise est allée encore plus loin en créant une unité dédiée chargée de déployer rapidement son outil de conception de médicaments lors d'une nouvelle épidémie, en collaboration avec les organismes gouvernementaux et les instances de recherche nationales. Elle s'est également engagée à 7 millions de dollars à Health for Human Potential, un programme de Philanthropy Asia Alliance, pour la recherche sur les maladies infectieuses en Asie.

🏛️ Recommandations politiques de DeepMind aux législateurs américains

Les recommandations de DeepMind aux décideurs politiques américains correspondent directement à ses trois piliers et citent des projets de loi spécifiques en cours d'examen :

🕐 Aucune de ces lois n'a encore été promulguée. C’est au niveau de l’écart entre les souhaits politiques d’une entreprise et un cadre fédéral de biosécurité opérationnel que ce programme sera véritablement mis à l’épreuve au cours des 6 à 12 prochains mois.