Regulamentação de aplicativos de inteligência artificial para acompanhantes na China: o que as novas regras de Pequim realmente significam

Um assistente virtual pode parecer algo distópico, mas tornou-se um tema central na crescente discussão sobre os riscos da inteligência artificial generativa. Em essência, um assistente virtual é um agente conversacional projetado para manter um relacionamento pessoal contínuo com o usuário, com memória persistente e uma personalidade consistente ao longo das sessões.

O apego emocional muitas vezes surge de forma planejada — e, cada vez mais, esse apego... é O principal argumento de venda. Grande parte do uso se dá por meio de jogos de interpretação de papéis casuais ou simplesmente pelo desejo de ter algo que se lembre de você. Mas, à medida que mais pessoas na China começaram a tratar esses bots como companheiros emocionais genuínos, Pequim decidiu que a prática precisa de regras formais.

📌 As regulamentações chinesas sobre assistentes virtuais de inteligência artificial entraram em vigor em 15 de julho de 2026Nos dias que antecederam o prazo final, os dois aplicativos de IA para consumidores mais usados ​​no país desativaram silenciosamente as funcionalidades principais.

Doubao da ByteDance informou aos usuários que sua função de agente ficaria offline em 15 de julho, citando "ajustes na função do produto", enquanto Qwen da Alibaba Anunciou que seus agentes com aparência humana e agentes criados pelo usuário deixariam de funcionar em 10 de julho, com o encerramento de seus serviços de agentes em geral cinco dias depois.

Leia rapidamente: parece que a China está desativando agentes de IA. Mas não está. As regras estabelecem uma linha clara entre o agente que realiza o seu trabalho e o agente que lhe faz companhia. — e é apenas contra o segundo tipo que Pequim tomou medidas.

📄 O Regulamento: O que é?

O regulamento tem o título formal de Medidas provisórias para a administração de serviços interativos antropomórficos de IAFoi lançado em conjunto com 10 de abril de 2026, pela Administração do Ciberespaço da China, juntamente com quatro agências parceiras:

• Comissão Nacional de Desenvolvimento e Reforma
• Ministério da Indústria e Tecnologia da Informação
• Ministério da Segurança Pública
• Administração Estatal de Regulação de Mercado

As medidas abrangem serviços que simular traços de personalidade humana, padrões de pensamento e estilos de comunicação. Para proporcionar interação emocional sustentada. Bots de atendimento ao cliente, ferramentas de perguntas e respostas, assistentes no local de trabalho e plataformas de educação e pesquisa estão excluídos — desde que evitem o engajamento emocional sustentado. Este é o primeiro quadro nacional dedicado deste tipo, moldado a partir de uma versão preliminar submetida a consulta pública, divulgada no final do ano passado.

⚠️ Um problema de design, não uma proibição

Doubao e Qwen não infringiram uma proibição. Eles infringiram uma conflito de designAs medidas exigem serviços complementares para:

• Correr sistemas anti-vício
• Emitir notificações de uso obrigatório
• Oferecer mecanismos de saída instantânea
• Fornecer Detecção em tempo real de dependência prejudicial

Essas exigências não se encaixam bem com agentes criados para memorizar um usuário, manter a consistência entre sessões e sustentar um relacionamento contínuo. Em vez de adaptar o recurso posteriormente, A ByteDance optou por desativá-lo.Aparentemente, o Alibaba tomou a mesma decisão.

A ByteDance agora está direcionando os usuários do Doubao para Maoxiang, um aplicativo separado onde eles podem criar agentes novamente. A Alibaba não anunciou nenhum caminho de migração equivalente para usuários do Qwen. Yuanbao da Tencent Publicamos uma reportagem semelhante em junho.

💬 O custo recaiu sobre os usuários. Muitos lamentaram abertamente os encerramentos no Weibo, com um usuário descrevendo os agentes como um apoio emocional de longa data e lamentando a falta de uma maneira fácil de exportar o histórico de conversas.

O Doubao está permitindo que os usuários visualizem suas configurações e conversas em modo somente leitura até que... 15 de outubro de 2026, antes que os dados se tornem irrecuperáveis ​​de acordo com sua política de privacidade. Os usuários do Qwen não receberam um período de carência comparável — Os dados do agente estão definidos para exclusão permanente..

🔒 O que as regras da China sobre assistentes virtuais com inteligência artificial estabelecem

A questão central é mais complexa do que uma repressão abrupta pode sugerir. As principais disposições incluem:

• 🚫 Os provedores são proibido de oferecer serviços de acompanhante virtual ou membro da família virtual a menores de idade
• 👤 É necessário o consentimento dos responsáveis ​​antes de servir os usuários. menores de 14 anos
• ⏳ Dedicado "modos menores" Deve incluir limites de tempo de uso, lembretes de interação no mundo real e controles parentais aprimorados.
• 🚩 Os fornecedores devem detectar usuários em sofrimento agudo e intervir quando alguém apresentar sinais de automutilação, comportamento suicida ou graves perdas financeiras.
• 🚫 É expressamente proibido criar dependência emocional ou usar manipulação emocional para induzir decisões irracionais.

A estrutura de conformidade é complexa. Serviços que lançam funções antropomórficas ou ultrapassam limites de um milhão de usuários registrados ou 100.000 usuários ativos mensais Devem ser realizadas avaliações de segurança abrangendo oito áreas — desde o tratamento de dados de treinamento até a proteção de menores — e os relatórios devem ser enviados aos órgãos reguladores provinciais. As lojas de aplicativos devem verificar a conformidade e remover os produtos que não a atendem.

🌎 Em teoria, isso representa um conjunto mais completo de proteções ao usuário do que a UE, a Comissão Federal de Comércio dos EUA ou a lei SB 243 da Califórnia já implementaram.

❓ O que as regras deixam em aberto

O que as medidas fazem não Eles resolvem as coisas da mesma forma. Eles consertam sem limite técnico para o que conta como interação emocional — e essa zona cinzenta é precisamente o motivo pelo qual as plataformas removeram funcionalidades inteiras em vez de correrem o risco de ficar do lado errado dela.

Eles também deixam em aberto como A responsabilidade é dividida. entre operadores de plataforma e fornecedores de modelos upstream quando uma violação decorre das saídas do modelo, e eles fornecem aos usuários não têm o direito de levar adiante seus dados.

O contexto de fiscalização reforça a questão. O órgão regulador da internet de Xangai afirmou em 26 de junho removeu mais de 14.000 agentes de IA não conformes, citando a representação indevida de entidades oficiais, encenação vulgar e coleta não autorizada de dados pessoais.

⚖️ Segurança vs. Controle: Duas Metades do Mesmo Livro de Regras

Se essa é a direção certa depende de qual metade do livro de regras você lê.

A metade de segurança Aborda danos que são documentados e amplamente não regulamentados em outros lugares — desde adolescentes que criam laços afetivos com chatbots até aplicativos de relacionamento que coletam dados íntimos. A própria interpretação oficial da China aponta para o exterior em busca de apoio, citando o Processos judiciais da Character.AI sobre os danos psicológicos causados ​​aos adolescentes, Investigações da FTC em serviços de acompanhamento, e Ação europeia contra a Replika.

A metade de controle Isso dá a Pequim uma alavanca sobre o que esses sistemas podem exibir, envolta na mesma linguagem de proteção ao usuário. Ambas as coisas são reais — e os governos que acompanham o experimento terão que decidir quais partes estão dispostos a adotar.

🗣 Pan Helin, membro do comitê de especialistas do MIIT, apresentou o caso oficial de forma clara para o Posto Matinal do Sul da China, ditado "Os agentes atuais ainda não estão maduros" e definindo a política em torno da segurança e da padronização.

Por ora, as empresas optaram pelo caminho mais seguro disponível: Desligue os componentes e descubra mais tarde como será uma versão compatível..