Réglementation chinoise sur les applications compagnon IA : que signifient réellement les nouvelles règles de Pékin ?

Un compagnon IA peut sembler dystopique, mais il est devenu un élément central du débat croissant sur les risques liés à l'IA générative. En substance, un compagnon IA est un agent conversationnel conçu pour entretenir une relation personnalisée et continue avec un utilisateur, grâce à une mémoire persistante et une personnalité cohérente d'une session à l'autre.

L'attachement émotionnel découle souvent d'une conception délibérée — et de plus en plus, cet attachement est L'argument de vente principal. La plupart des utilisateurs se contentent de jeux de rôle occasionnels ou souhaitent simplement avoir un avatar qui se souvienne de vous. Mais face à la multiplication des interactions entre ces bots et de véritables compagnons émotionnels en Chine, Pékin a décidé d'encadrer formellement cette pratique.

📌 La réglementation chinoise relative aux compagnons IA est entrée en vigueur le 15 juillet 2026Dans les jours précédant l'échéance, les deux applications d'IA grand public les plus utilisées du pays ont discrètement désactivé les fonctionnalités essentielles à leur fonctionnement.

Doubao de ByteDance La société a informé ses utilisateurs que sa fonction d'agent serait désactivée le 15 juillet, invoquant des « ajustements de la fonction produit », tandis que Qwen d'Alibaba a annoncé que ses agents humanoïdes et créés par les utilisateurs cesseraient de fonctionner le 10 juillet, et que ses services d'agents plus généraux seraient fermés cinq jours plus tard.

Lisez vite, on dirait que la Chine désactive ses agents IA. Ce n'est pas le cas. Les règles établissent une distinction claire entre l'agent qui effectue votre travail et celui qui vous tient compagnie. — et c’est seulement le deuxième type contre lequel Pékin a pris des mesures.

📄 Le règlement : de quoi s’agit-il ?

Le règlement est officiellement intitulé le Mesures provisoires pour l'administration des services interactifs anthropomorphiques d'IAIl a été coédité le 10 avril 2026, par l’Administration du cyberespace de Chine en collaboration avec quatre agences partenaires :

• Commission nationale du développement et de la réforme
• Ministère de l'Industrie et des Technologies de l'Information
• Ministère de la Sécurité publique
• Administration d'État pour la réglementation du marché

Les mesures concernent des services qui simuler les traits de personnalité humaine, les schémas de pensée et les styles de communication pour assurer une interaction émotionnelle soutenue. Les chatbots de service client, les outils de questions-réponses, les assistants de travail et les plateformes d'éducation et de recherche sont exclus, à condition qu'ils évitent tout engagement émotionnel prolongé. premier cadre national dédié de ce type, élaboré à partir d'un projet soumis à consultation publique et publié à la fin de l'année dernière.

⚠️ Un problème de conception, pas une interdiction

Doubao et Qwen n'ont pas enfreint une interdiction. Ils ont enfreint une loi. conflit de conceptionCes mesures nécessitent des services d'accompagnement pour :

• Courir systèmes de lutte contre la dépendance
• Problème notifications d'utilisation obligatoires
• Offre mécanismes de sortie instantanée
• Fournir Détection en temps réel des dépendances malsaines

Ces exigences sont incompatibles avec des agents conçus pour se souvenir d'un utilisateur, rester cohérents d'une session à l'autre et entretenir une relation continue. Plutôt que d'ajouter la fonctionnalité a posteriori, ByteDance a choisi de le fermer.Alibaba semble avoir pris la même décision.

ByteDance redirige désormais les utilisateurs de Doubao vers MaoxiangUne application distincte leur permettra de recréer des agents. Alibaba n'a annoncé aucune solution de migration équivalente pour les utilisateurs de Qwen. Yuanbao de Tencent Une fonctionnalité similaire avait été retirée en juin dernier.

💬 Les conséquences se font sentir pour les utilisateurs. Nombre d'entre eux ont exprimé publiquement leur déception face à ces fermetures sur Weibo, un internaute décrivant les agents comme un soutien moral précieux et déplorant l'absence d'un moyen simple d'exporter l'historique des conversations.

Doubao permet aux utilisateurs de consulter leurs configurations et conversations en mode lecture seule jusqu'à présent 15 octobre 2026, avant que les données ne deviennent irrécupérables en vertu de sa politique de confidentialité. Les utilisateurs de Qwen n'ont bénéficié d'aucun délai de grâce comparable. Les données de l'agent sont programmées pour être supprimées définitivement..

🔒 Ce que prévoient les règles chinoises relatives aux compagnons IA

La question est plus nuancée qu'une répression brutale ne le laisse supposer. Ses principales dispositions sont les suivantes :

• 🚫 Les fournisseurs sont interdit de proposer des services de compagnon virtuel ou de membre de la famille virtuel aux mineurs
• 👤 Le consentement du tuteur est requis avant de servir les utilisateurs moins de 14 ans
• ⏳ Dédié « modes mineurs » doit inclure des limites de temps d'utilisation, des rappels d'interaction dans le monde réel et des contrôles parentaux améliorés
• 🚩 Les fournisseurs doivent détecter les utilisateurs en détresse aiguë et intervenir lorsqu'une personne présente des signes d'automutilation, de comportement suicidaire ou de pertes financières importantes.
• 🚫 Créer une dépendance affective ou utiliser la manipulation émotionnelle pour inciter à des décisions déraisonnables sont explicitement interdits.

Le dispositif de conformité est lourd. Les services qui lancent des fonctions anthropomorphiques ou franchissent des seuils de un million d'utilisateurs inscrits ou 100 000 utilisateurs actifs mensuels Les plateformes d'applications doivent réaliser des évaluations de sécurité couvrant huit domaines — de la gestion des données d'entraînement à la protection des éléments mineurs — et soumettre des rapports aux autorités provinciales compétentes. Les plateformes de téléchargement d'applications doivent vérifier la conformité et retirer les applications non conformes.

🌎 Sur le papier, cela représente un ensemble de protections pour les utilisateurs plus complet que ce que l'UE, la Federal Trade Commission américaine ou la loi SB 243 de Californie ont mis en vigueur jusqu'à présent.

❓ Ce que les règles laissent ouvert

Que font les mesures ? pas Ils règlent les problèmes tout autant. Ils réparent aucun seuil technique pour ce qui compte comme interaction émotionnelle — et cette zone grise est précisément la raison pour laquelle les plateformes ont retiré des fonctionnalités entières plutôt que de risquer de se retrouver du mauvais côté.

Ils laissent également la question ouverte quant à la manière dont La responsabilité est partagée. entre les opérateurs de plateforme et les fournisseurs de modèles en amont lorsqu'une violation découle des résultats du modèle, et ils donnent aux utilisateurs aucun droit de récupérer leurs données.

Le contexte de répression accentue ce point. Le régulateur d'Internet de Shanghai l'a déclaré le 26 juin il avait enlevé plus de 14 000 agents d'IA non conformes, citant l'usurpation d'identité d'entités officielles, des jeux de rôle vulgaires et la collecte non autorisée de données personnelles.

⚖️ Sécurité vs. Contrôle : Les deux faces d’une même pièce

Selon la partie du règlement que vous lisez, il s'agit-il de la bonne direction à prendre ?

La moitié de la sécurité Elle aborde des problèmes qui sont documentés et largement non réglementés ailleurs, comme les liens affectifs que développent les adolescents avec les chatbots ou les applications de suivi qui collectent des données intimes. L'interprétation officielle de la Chine elle-même s'appuie sur des exemples étrangers pour obtenir du soutien, citant notamment… Poursuites judiciaires concernant Character.AI à cause des dommages psychologiques causés aux adolescents, Enquêtes de la FTC dans les services d'accompagnement, et Action européenne contre Replika.

La moitié du contrôle Cela donne à Pékin un moyen de pression sur le contenu de ces systèmes, le tout sous couvert d'un discours de protection des utilisateurs. Les deux sont bien réels, et les gouvernements qui observent cette expérience devront décider des éléments qu'ils sont prêts à adopter.

🗣 Pan Helin, membre du comité d'experts du MIIT, a exposé clairement la position officielle à la South China Morning Post, disant « Les agents actuels ne sont pas encore matures. » et en structurant la politique autour de la sécurité et de la normalisation.

Pour l'instant, les entreprises ont opté pour la solution la plus sûre : Éteignez les composants et déterminez ultérieurement à quoi ressemblera une version conforme..