Китайские правила регулирования приложений-компаньонов на основе искусственного интеллекта: что на самом деле означают новые правила Пекина?

Искусственный интеллект в качестве компаньона звучит как антиутопия, но он стал центральной темой в растущей дискуссии о рисках генеративного ИИ. По своей сути, ИИ-компаньон — это разговорный агент, предназначенный для поддержания постоянных личных отношений с пользователем, обладающий постоянной памятью и неизменным образом на протяжении всех сеансов.

Эмоциональная привязанность часто возникает по замыслу — и все чаще именно эта привязанность. является Главное преимущество. В основном их используют для ролевых игр или просто для того, чтобы иметь что-то, что будет вас помнить. Но поскольку все больше людей в Китае стали воспринимать этих ботов как настоящих эмоциональных компаньонов, Пекин решил, что этой практике необходимы формальные правила.

📌 Китайские правила регулирования использования ИИ в качестве вспомогательного средства вступили в силу 📌 15 июля 2026 г.За несколько дней до крайнего срока два самых популярных в стране потребительских приложения с использованием искусственного интеллекта незаметно отключили основные функции.

Дубао от ByteDance Сообщили пользователям, что функция агента будет отключена 15 июля, сославшись на «корректировку функций продукта», в то время как Qwen от Alibaba объявили, что их агенты, как человекоподобные, так и созданные пользователями, прекратят работу 10 июля, а более широкие услуги для агентов будут отключены пять дней спустя.

Если быстро прочитать, может показаться, что Китай отключает агентов искусственного интеллекта. Но это не так. Правила четко разграничивают агента, который выполняет вашу работу, и агента, который просто составляет вам компанию. — и Пекин предпринимает шаги лишь против второго типа угроз.

📄 Регламент: что это такое

Данный регламент официально называется Временные меры по управлению антропоморфными интерактивными сервисами на основе искусственного интеллектаОн был выпущен одновременно с другим изданием. 10 апреля 2026 г.При поддержке Управления по вопросам киберпространства Китая и четырех партнерских организаций:

• Национальная комиссия по развитию и реформам
• Министерство промышленности и информационных технологий
• Министерство общественной безопасности
• Государственное управление по регулированию рынка

Эти меры охватывают услуги, которые имитирует черты человеческой личности, модели мышления и стили общения. для обеспечения устойчивого эмоционального взаимодействия. Исключение составляют боты для обслуживания клиентов, инструменты вопросов и ответов, помощники на рабочем месте, а также образовательные и исследовательские платформы — при условии, что они избегают устойчивого эмоционального взаимодействия. Это и есть... первая в своем роде специализированная национальная рамочная программаРазработан на основе проекта, представленного для общественного обсуждения и опубликованного в конце прошлого года.

⚠️ Проблема дизайна, а не запрет

Доубао и Квэнь не нарушили запрет. Они нарушили... конфликт дизайнаДанные меры предусматривают предоставление сопутствующих услуг для:

• Бегать системы борьбы с зависимостями
• Проблема обязательные уведомления об использовании
• Предложение механизмы мгновенного выхода
• Предоставлять обнаружение вредной зависимости в режиме реального времени

Эти требования плохо сочетаются с агентами, созданными для запоминания пользователя, поддержания стабильности между сессиями и развития долгосрочных отношений. Вместо того чтобы дорабатывать эту функцию, Компания ByteDance приняла решение закрыть его.Компания Alibaba, похоже, приняла аналогичное решение.

Компания ByteDance теперь перенаправляет пользователей Doubao на Маосян, отдельное приложение, где они смогут снова создавать агентов. Alibaba не объявила об аналогичном пути миграции для пользователей Qwen. Юаньбао из Tencent Аналогичную функцию отозвали еще в июне.

💬 Цена этого удара легла на плечи пользователей. Многие открыто оплакивали закрытие сервисов в Weibo, один из пользователей назвал агентов давней эмоциональной поддержкой и посетовал на отсутствие простого способа экспорта истории чатов.

Doubao позволяет пользователям просматривать свои настройки и переписку в режиме только для чтения до тех пор, пока... 15 октября 2026 г.до того, как данные станут невосстановимыми в соответствии с политикой конфиденциальности. Пользователям Qwen не был предоставлен аналогичный льготный период. Данные агента предназначены для безвозвратного удаления..

🔒 Что предусматривают китайские правила использования ИИ в качестве сопутствующего инструмента?

Вопрос рассматривается более тщательно, чем может показаться на первый взгляд, судя по жестким мерам ужесточения контроля. Ключевые положения включают:

• 🚫 Поставщики услуг Запрещено предлагать несовершеннолетним услуги виртуального компаньона или виртуального члена семьи.
• 👤 Перед предоставлением услуг пользователям требуется согласие опекуна. младше 14 лет
• ⏳ Преданный "незначительные моды" Необходимо включить ограничения по времени использования, напоминания о взаимодействии в реальном мире и расширенные функции родительского контроля.
• 🚩 Поставщики услуг должны выявление пользователей, находящихся в состоянии острого стресса и вмешиваться в случаях, когда у человека проявляются признаки членовредительства, суицидального поведения или серьезных финансовых потерь.
• 🚫 Создание эмоциональной зависимости или использование эмоциональных манипуляций для побуждения к неразумным решениям категорически запрещено.

Механизм обеспечения соответствия требованиям очень громоздкий. Сервисы, запускающие антропоморфные функции или выходящие за рамки допустимого. один миллион зарегистрированных пользователей или 100 000 активных пользователей в месяц Необходимо проводить оценки безопасности, охватывающие восемь областей — от обработки обучающих данных до незначительной защиты — и подавать отчеты в провинциальные регулирующие органы. Магазины приложений должны проверять соответствие требованиям и удалять несоответствующие продукты.

🌎 На бумаге это представляет собой более полный набор мер защиты пользователей, чем те, которые уже были введены в действие в ЕС, Федеральной торговой комиссии США или калифорнийским законопроектом SB 243.

❓ Что остается неясным в правилах

Что делают эти меры? нет Они решают такие же сложные вопросы. нет технического порога Что касается того, что считается эмоциональным взаимодействием, — именно из-за этой серой зоны платформы отказались от целых функций, чтобы не рисковать оказаться в невыгодном положении.

Они также оставляют открытым вопрос о том, как Ответственность разделена между операторами платформы и поставщиками моделей, когда нарушение возникает из-за результатов работы модели, и они предоставляют пользователям нет права передавать их данные.

Ситуация обостряется из-за особенностей правоприменения. Об этом заявил шанхайский интернет-регулятор. 26 июня оно удалило более 14 000 агентов ИИ, не соответствующих требованиям.в связи с этим были выявлены случаи выдачи себя за официальные лица, вульгарные ролевые игры и несанкционированный сбор персональных данных.

⚖️ Безопасность против контроля: две половины одного свода правил

Правильное ли это направление, зависит от того, какую часть свода правил вы прочтете.

Защитная половина Речь идёт о вреде, который задокументирован и в значительной степени не регулируется в других странах — от привязанности подростков к чат-ботам до сопутствующих приложений, собирающих личные данные. В официальной интерпретации Китая в качестве подтверждения приводятся данные из-за рубежа, ссылающиеся на... Судебные иски против Character.AI о психологическом вреде, причиняемом подросткам. расследования Федеральной торговой комиссии в сфере услуг по сопровождению и Действия европейских стран против Replika.

контрольная половина Это даёт Пекину рычаг влияния на то, что могут говорить эти системы, причём в рамках той же политики защиты пользователей. Обе системы реальны, и правительствам, наблюдающим за экспериментом, придётся решить, какие их части они готовы позаимствовать.

🗣 Пан Хэлинь, член экспертного комитета Министерства промышленности и информационных технологий, четко изложила официальную позицию. South China Morning Postговоря «Нынешние агенты еще не достигли зрелости» и формулирование политики с учетом требований безопасности и стандартизации.

На данный момент компании выбрали самый безопасный из доступных им путей: Отключите компоненты и позже разберитесь, как выглядит совместимая версия..