Исследование Google DeepMind AI Bioresilience: что вам нужно знать

Google DeepMind и Изоморфные лаборатории Разработана комплексная программа повышения биоустойчивости, направленная на пресечение злоупотреблений ИИ в биологии и укрепление возможностей реагирования на вспышки заболеваний.

Обе организации опубликовали обновленную информацию о совместной инициативе, которая началась незаметно и с тех пор получила дальнейшее развитие. более 15 партнерств за последние 12 месяцев взаимодействовал с государственными органами, организациями по биобезопасности и исследовательскими группами.

📌 Те же знания, которые помогают исследователю определить мишень для вакцины, в принципе, могут помочь злоумышленнику восполнить пробелы в собственном понимании — задача, которую DeepMind описывает как двойной мандат.

Передовые модели, такие как Gemini, обладают все более детальным пониманием биологии. DeepMind признает, что сочетание этих систем со специализированными биологическими моделями позволяет создавать агентов, подобных его собственным. Антигравитационная платформаА сторонние базы данных лишь еще больше расширят эти возможности. Миссия программы: способствовать научным достижениям, которые делает возможным передовой искусственный интеллект, одновременно защищая эти же инструменты от потенциальных злоумышленников.

🏗 Три столпа программы

По словам компаний, программа опирается на три основных принципа:

• 🔒 Предотвращение злоупотреблений биологических инструментов на основе искусственного интеллекта
• 🔍 Выявление вспышек заболеваний быстрее благодаря усовершенствованному секвенированию
• ⚡ Ответ быстро, как только начинается вспышка или нападение.

Более 15 партнерских соглашений охватывают все три направления. В число партнеров входят: Национальная лаборатория имени Лоуренса Ливермора, то Институт безопасности искусственного интеллекта Великобритании, Я НАЧАЛи Институт Фрэнсиса КрикаКомпания DeepMind заявляет о намерении расширить эти связи в течение следующих шести-двенадцати месяцев, уделяя особое внимание анализу угроз, методам оценки агентов ИИ и мерам противодействия взлому джейлбрейка. Она также координирует свои действия с... Форум моделей-первопроходцев по таким вопросам, как обработка более рискованных категорий обучающих данных — в качестве примера приводятся вирусологические наборы данных.

🔐 Как заблокировать доступ к сети Близнецов, не препятствуя при этом легитимным научным исследованиям

Работа по предотвращению угроз основана на моделировании угроз, призванном выявить, какие субъекты с наибольшей вероятностью попытаются злоупотребить своими правами, и какие препятствия в настоящее время им мешают. Компания DeepMind заявляет, что использует сочетание различных методов. экспертная команда по борьбе с наркотиками и рандомизированные контролируемые исследования оценить, сможет ли знак Близнецов помочь кому-либо преодолеть эти препятствия.

Методы постобучения предназначены для того, чтобы научить модель отклонять вредоносные запросы, избегая при этом того, что компания называет... «чрезмерный отказ» Это позволяет находить баланс между обоснованными научными вопросами и рискованными действиями, что в целом оказалось сложной задачей для всей отрасли. Для выявления рискованной деятельности в режиме реального времени используются классификаторы и зонды, а для обнаружения более тонких моделей злоупотреблений, которые могут быть пропущены автоматическими фильтрами, применяется целенаправленный анализ журналов.

⚠️ Важное замечание: Ни одно из этих решений не описывается как решенное. Классификатор, настроенный на основе известных шаблонов взлома в контролируемой оценке, не гарантирует эквивалентной производительности против новых методов атак в реальных условиях — и DeepMind не утверждает обратного.

🧬 Проблема скрининга синтеза ДНК

Один из наиболее конкретных рисков в ходе разведки связан с синтез ДНККомпании, входящие в Международный консорциум по синтезу генов, в настоящее время проверяют заказы на соответствие спискам известных опасных патогенов и токсинов с помощью алгоритмов скрининга. Компания DeepMind прямо заявляет, что Этот подход начинает давать сбои. — потому что теперь ИИ может помочь в разработке последовательностей ДНК с функциями, аналогичными опасному патогену, без необходимости достаточно точного совпадения с его последовательностью, чтобы активировать существующие методы скрининга.

Предлагаемое решение заимствует элементы из существующей системы водяных знаков DeepMind. SynthIDКомпания утверждает, что эта технология стала отраслевым стандартом для маркировки изображений и текста, созданных с помощью ИИ. Адаптация её к биологическим последовательностям представлена ​​как исследовательская работа, а не как готовый продукт.

Долгосрочная цель — описывается как открытый технический вызов Вместо чего-то близкого к разрешенному — включает в себя скрининг, который предсказывает, является ли новая последовательность ДНК, вероятно, токсичной или патогенной, на основе ее функциянезависимо от того, напоминает ли это что-либо из существующих баз данных.

🔬 Более дешевое секвенирование в качестве слоя обнаружения

Обнаружение зависит от метагеномное секвенированиеЭтот метод характеризует каждый микроорганизм в образце, а не проверяет наличие лишь ограниченного списка известных патогенов, как это делают традиционные методы диагностики. Ограничивающим фактором является стоимость, и для масштабирования этого подхода в регионах, где вспышки заболеваний наиболее вероятны, необходимо значительно снизить эти затраты.

Компания DeepMind указывает на сотрудничество между Google и Pacific Biosciences который использовал свой AlphaEvolve Использование кодирующего агента для повышения точности секвенирования — один из способов достижения этой цели. Компания заявляет, что сейчас рассматривает дальнейшие возможности — от оптимизации алгоритмов обработки данных секвенирования до разработки аппаратного обеспечения — и отдельно изучает вопрос о том, следует ли... АльфаГеном Это может помочь охарактеризовать патогены непосредственно на основе данных секвенирования.

📍 Они остаются исследовательское сотрудничество, а не системы, развернутые в полевых условиях.Разница между повышением точности секвенирования в контролируемом трубопроводе и функционирующей сетью раннего предупреждения в очистных сооружениях и транспортных узлах в условиях ограниченных ресурсов невелика.

📊 Публикации AlphaFold и пробел в мерах по борьбе с отходами

Основной принцип реагирования опирается на пробел в медицинских мерах противодействия, из-за которого для многих известных патогенов отсутствуют лицензированные диагностические средства, вакцины или методы лечения. Компания DeepMind приводит следующие аргументы: более 10 000 публикаций об инфекционных заболеваниях, на которые ссылаются Альфасфолд Более пяти лет работы, включающей исследования туберкулеза, передачи малярии и картирования угроз, в том числе: Мпокс и Нипах.

Новейшее дополнение к этому альбому — это сотрудничество с Программа биоустойчивости Лоуренса Ливерморакоторая планирует использовать АльфаФолд 3 для работы над созданием антител широкого спектра действия, включая разработку антител против всех филовирусов. DeepMind заявляет, что продолжит добавлять структуры и комплексы белков в базу данных. База данных структур белков AlphaFoldс приоритетным определением целей, имеющих отношение к разработке контрмер.

Доступ к более новым агентским системам, включая СоисследовательЭта программа распространяется на отдельных исследователей, в том числе на ученых из... Национальные лаборатории Министерства энергетики США работая под Миссия Генезис.

Изоморфные лаборатории Компания пошла еще дальше, создав специальное подразделение, предназначенное для быстрого развертывания своей системы разработки лекарств во время вспышки нового коронавируса, работая совместно с государственными и национальными исследовательскими организациями. Компания также пообещала 7 миллионов долларов в фонд Health for Human Potential, программу Philanthropy Asia Alliance, для проведения исследований в области инфекционных заболеваний в Азии.

🏛️ Рекомендации DeepMind по вопросам политики для законодателей США

Рекомендации DeepMind американским политикам напрямую соответствуют трем основным принципам компании и содержат ссылки на конкретные законопроекты, находящиеся на рассмотрении:

🕐 Ни один из этих законопроектов еще не принят. Именно разрыв между желаемым набором мер безопасности компании и функционирующей федеральной системой биобезопасности станет настоящим испытанием для этой программы в течение следующих 6–12 месяцев.