Технологические гиганты Meta Microsoft Nvidia IBM Поддержка Open Weight AI Models

Двадцать четыре ведущие технологические компании и организации совместно подписали соглашение. Открытое письмо, призывающее американских политиков защитить модели искусственного интеллекта с открытыми весами.Это знаменует собой значительное стремление всей отрасли к большей ясности в регулировании сектора искусственного интеллекта.

Письмо, опубликованное сегодня (PDF), включает в себя подписи беспрецедентной коалиции, в том числе Meta, Microsoft, Nvidia, IBM, Dell Technologies, CrowdStrike, Palantir, ServiceNow, Hugging Face, Perplexity, Mistral, Andreessen Horowitz, Y Combinator, Linux Foundation и Mozillaсреди прочих.

Понимание моделей искусственного интеллекта с открытыми весами

В письме проводится критическое сравнение между движение за программное обеспечение с открытым исходным кодом 1980-х годов и сегодняшняя дискуссия о доступности весов моделей ИИ. Модели с открытыми весами представляют собой системы ИИ, в которых обученные параметры общедоступны для загрузки, проверки, модификации и независимого развертывания, что резко контрастирует с закрытыми моделями от таких поставщиков, как OpenAI или Anthropic, которые ограничивают доступ через коммерческие API.

Три основных аргумента в пользу ИИ с открытым весом

Подписавшие соглашение участники считают открытые весовые коэффициенты необходимыми для демократизации возможностей ИИ в различных секторах, включая заводы, больницы, фермы, школы и традиционные предприятия. Их аргументация основана на трех фундаментальных столпах:

🔹 Снижение барьеров для входа

Модели с открытым весом значительно сократить расходы для стартапов и государственных учреждений Это касается организаций, которым не хватает ресурсов для обучения передовых моделей с нуля или которые не платят высокие комиссии за токены за рутинные операции. Такая доступность позволяет небольшим организациям использовать передовые возможности ИИ без непомерных финансовых барьеров.

🔹 Усиление рыночной конкуренции

К усиление конкуренции во всей технологической цепочке—от полупроводниковых чипов до облачной инфраструктуры и приложений — открытые весовые коэффициенты предотвращают концентрацию ценности среди ограниченного числа поставщиков, в конечном итоге сохраняя затраты на приемлемом уровне и способствуя инновациям.

🔹 Предотвращение зависимости от поставщика

Корпоративные клиенты получают выгоду оперативная независимость и гибкость При развертывании моделей с открытыми весами организации сохраняют полный контроль над своими данными и могут настраивать модели в соответствии с конкретными внутренними требованиями, не завися от плана развития или ценовой политики какого-либо конкретного поставщика.

Решение проблем безопасности: нетривиальная точка зрения.

Наиболее убедительная часть письма напрямую затрагивает риски безопасности, представляя аргумент, который бросает вызов общепринятым представлениям об открытых моделях и протоколах безопасности.

Подписавшие соглашение признают, что после публикации весовых коэффициентов модели она выходит из-под контроля первоначального разработчика. Модифицированные версии становится трудно отслеживать, защитные механизмы могут быть удалены, и механизм отзыва отсутствует. Однако они утверждают, что Запрет — не решение..

В письме утверждается, что Закрытые модели не являются по своей сути более безопасными. Потому что их можно взломать, использовать не по назначению или они могут дать сбои, которые внешние исследователи не смогут наблюдать или проверить. Концентрация передовых возможностей в руках небольшого числа закрытых поставщиков создает единые точки отказа, а не устраняет их.

В отличие от этого, открытые модели позволяют внешним исследователям... Изучать поведение, проводить учения "красной команды" и выявлять уязвимости. посредством распределенного сотрудничества, а не полагаясь исключительно на внутреннее тестирование поставщиков.

Защита методов модельной дистилляции

В письме конкретно рассматривается вопрос дистилляция—Метод, при котором выходные данные одной модели используются для обучения или улучшения другой модели. Эта стандартная практика в исследованиях и разработке продуктов в области машинного обучения выполняет важнейшие функции оценки, проверки и передачи возможностей между различными архитектурами моделей.

Подписавшие соглашение проводят четкое различие между законными методами дистилляции и незаконным извлечением выгоды из закрытых моделей, утверждая, что надлежащие методы не должны подвергаться ограничениям, предназначенным для несанкционированной деятельности.

В письме содержится призыв к борьбе с нецелевым использованием средств посредством целевые правовые и коммерческие механизмы вместо повсеместных ограничений на методы, необходимые для всей области.

Последствия для политики и стратегическое позиционирование

Хотя письмо не прилагается к конкретным законодательным или нормативным предложениям, оно служит своего рода документом. документ стратегического позиционирования В преддверии ожидаемых действий в Вашингтоне по вопросам политики в области ИИ, подписавшие обращение призывают законодателей:

• Расширить доступ к вычислительным ресурсам для стартапов и исследовательских институтов
• Финансирование обмена обучающими наборами данных и системы оценки
• Избегайте преждевременных ограничений на моделях с открытым весом

Вопросы, которые следует учитывать лицам, принимающим решения на уровне предприятия.

Группы по закупкам проводят оценку развертывание с открытой и закрытой моделью веса Следует понимать, что политическая обстановка остается изменчивой и неопределенной. Любые будущие ограничения на дистилляцию или открытый доступ могут существенно изменить экономику самостоятельной инфраструктуры ИИ в течение одного законодательного цикла, что делает стратегическое планирование и осведомленность о нормативных требованиях крайне важными для долгосрочного успеха внедрения ИИ.

Эта общеотраслевая инициатива представляет собой Переломный момент в формировании управления искусственным интеллектом.сбалансировать доступность инноваций с соображениями безопасности, поскольку политики ориентируются в сложной системе регулирования искусственного интеллекта.