Regulierung von KI-Begleit-Apps in China: Was Pekings neue Regeln wirklich bedeuten

Ein KI-Begleiter klingt dystopisch – ist aber zu einem zentralen Thema in der zunehmenden Debatte über die Risiken generativer KI geworden. Im Kern ist ein KI-Begleiter ein Konversationsagent, der eine dauerhafte, persönliche Beziehung zum Nutzer aufbauen soll, inklusive persistentem Gedächtnis und einer konsistenten Persönlichkeit über verschiedene Sitzungen hinweg.

Emotionale Bindung ist oft eine Folge von Planung – und zunehmend ist diese Bindung Ist Das Verkaufsargument ist folgendes: Viele nutzen Bots für lockeres Rollenspiel oder einfach, um etwas zu haben, das sich an einen erinnert. Da aber immer mehr Menschen in China diese Bots als echte emotionale Begleiter betrachten, hat Peking nun beschlossen, dass diese Praxis formalen Regeln bedarf.

📌 Chinas Vorschriften für KI-Begleiter traten in Kraft am 15. Juli 2026In den Tagen vor Ablauf der Frist schalteten die beiden meistgenutzten KI-Apps des Landes stillschweigend die wichtigsten Kernfunktionen ab.

ByteDance's Doubao Das Unternehmen teilte den Nutzern mit, dass die Agentenfunktion am 15. Juli aufgrund von „Anpassungen der Produktfunktionen“ offline genommen werde, während Alibabas Qwen kündigte an, dass seine menschenähnlichen und von Benutzern erstellten Agenten am 10. Juli ihre Arbeit einstellen würden, die umfassenderen Agentendienste würden fünf Tage später eingestellt.

Schnell gelesen, sieht es so aus, als würde China KI-Agenten abschalten. Das stimmt nicht. Die Regeln ziehen eine klare Trennlinie zwischen dem Agenten, der Ihre Arbeit erledigt, und dem Agenten, der Ihnen Gesellschaft leistet. — und nur gegen die zweite Art von Mensch ist Peking vorgegangen.

📄 Die Verordnung: Was sie ist

Die Verordnung trägt den offiziellen Titel „…“ Vorläufige Maßnahmen für die Verwaltung von KI-anthropomorphen interaktiven DienstenEs wurde gleichzeitig herausgegeben am 10. April 2026, von der Cyberspace-Administration Chinas zusammen mit vier Partnerbehörden:

• Nationale Entwicklungs- und Reformkommission
• Ministerium für Industrie und Informationstechnologie
• Ministerium für öffentliche Sicherheit
• Staatliche Marktregulierungsbehörde

Die Maßnahmen umfassen Dienstleistungen, die menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile simulieren um eine anhaltende emotionale Interaktion zu ermöglichen. Kundenservice-Bots, Wissens-Frage-Antwort-Tools, Arbeitsplatzassistenten sowie Bildungs- und Forschungsplattformen sind ausgenommen – sofern sie eine anhaltende emotionale Bindung vermeiden. Dies ist die erster nationaler Rahmen dieser Art, basierend auf einem Ende letzten Jahres veröffentlichten Entwurf zur öffentlichen Kommentierung.

⚠️ Ein Designproblem, kein Verbot

Doubao und Qwen verstießen nicht gegen ein Verbot. Sie verstießen gegen ein DesignkonfliktDie Maßnahmen erfordern Begleitdienste für:

• Laufen Anti-Sucht-Systeme
• Ausgabe obligatorische Nutzungsbenachrichtigungen
• Angebot Sofortausstiegsmechanismen
• Bieten Echtzeiterkennung ungesunder Abhängigkeit

Diese Anforderungen passen schlecht zu Agenten, die darauf ausgelegt sind, sich einen Benutzer zu merken, über Sitzungen hinweg konsistent zu bleiben und eine dauerhafte Beziehung aufzubauen. Anstatt die Funktion nachträglich einzubauen, ByteDance hat sich entschieden, es abzuschalten.Alibaba scheint die gleiche Entscheidung getroffen zu haben.

ByteDance leitet Doubao-Nutzer nun weiter zu MaoxiangEs wird eine separate App geben, in der sie erneut Agenten erstellen können. Alibaba hat keinen vergleichbaren Migrationspfad für Qwen-Nutzer angekündigt. Yuanbao von Tencent Einen vergleichbaren Artikel gab es bereits im Juni.

💬 Die Kosten sind auf die Nutzer abgewälzt worden. Viele beklagten die Abschaltungen öffentlich auf Weibo, wobei ein Nutzer die Mitarbeiter als langjährige emotionale Stütze bezeichnete und das Fehlen einer einfachen Möglichkeit zum Exportieren von Chatverläufen bedauerte.

Doubao ermöglicht es Nutzern, ihre Konfigurationen und Konversationen bis auf Weiteres im Nur-Lese-Modus einzusehen. 15. Oktober 2026bevor die Daten gemäß der Datenschutzrichtlinie unwiederbringlich verloren gehen. Qwen-Nutzern wurde keine vergleichbare Frist eingeräumt. Agentendaten sind zur endgültigen Löschung vorgesehen.Die

🔒 Was Chinas KI-Begleitregeln festlegen

Der Sachverhalt ist differenzierter betrachtet, als es ein pauschales Durchgreifen vermuten lässt. Zu den wichtigsten Bestimmungen gehören:

• 🚫 Anbieter sind Es ist ihm untersagt, Minderjährigen virtuelle Begleit- oder virtuelle Familienmitgliedsdienste anzubieten.
• 👤 Die Zustimmung der Erziehungsberechtigten ist vor der Bedienung der Nutzer erforderlich. unter 14 Jahren
• ⏳ Engagiert "kleinere Modi" muss Nutzungszeitbegrenzungen, Erinnerungen an die Interaktion in der realen Welt und erweiterte elterliche Kontrollfunktionen umfassen.
• 🚩 Anbieter müssen Nutzer in akuten Notlagen erkennen und einzugreifen, wenn jemand Anzeichen von Selbstverletzung, suizidalem Verhalten oder schweren finanziellen Verlusten zeigt.
• 🚫 Das Herbeiführen emotionaler Abhängigkeit oder die Nutzung emotionaler Manipulation, um unvernünftige Entscheidungen herbeizuführen, ist ausdrücklich verboten.

Der Regulierungsapparat ist umfangreich. Dienste, die anthropomorphe Funktionen ausführen oder Schwellenwerte überschreiten, eine Million registrierte Nutzer oder 100.000 monatliche Aktive Sie müssen Sicherheitsbewertungen in acht Bereichen durchführen – von der Verarbeitung von Trainingsdaten bis zum Schutz kleinerer Personen – und Berichte an die zuständigen Provinzbehörden übermitteln. App-Stores müssen die Einhaltung der Vorschriften überprüfen und nicht konforme Produkte entfernen.

🌎 Auf dem Papier stellt dies einen umfassenderen Schutz der Nutzer dar als ihn die EU, die US-amerikanische Federal Trade Commission oder das kalifornische SB 243 bisher umgesetzt haben.

❓ Was die Regeln offen lassen

Was die Maßnahmen bewirken nicht Sie regeln Angelegenheiten genauso gut. Sie reparieren. keine technische Schwelle Es geht darum, was als emotionale Interaktion gilt – und genau diese Grauzone ist der Grund, warum Plattformen ganze Funktionen entfernt haben, anstatt das Risiko einzugehen, auf der falschen Seite zu landen.

Sie lassen auch offen, wie Die Haftung ist aufgeteilt zwischen Plattformbetreibern und vorgelagerten Modellanbietern, wenn ein Verstoß auf die Ausgaben des Modells zurückzuführen ist, und sie geben Nutzern kein Recht, ihre Daten auszuführenDie

Der Kontext der Durchsetzungsmaßnahmen unterstreicht die Aussage. Shanghais Internetaufsichtsbehörde erklärte am 26. Juni Es hatte mehr als entfernt 14.000 nicht konforme KI-Agentenunter anderem wegen Amtsanmaßung, vulgärer Rollenspiele und unerlaubter Erhebung personenbezogener Daten.

⚖️ Sicherheit vs. Kontrolle: Zwei Seiten derselben Regelsammlung

Ob dies der richtige Weg ist, hängt davon ab, welche Hälfte des Regelwerks man liest.

Die Sicherheitshälfte Es geht um Schäden, die dokumentiert und andernorts weitgehend unreguliert sind – von Jugendlichen, die eine enge Bindung zu Chatbots aufbauen, bis hin zu Begleit-Apps, die intime Daten sammeln. Chinas eigene offizielle Auslegung verweist zur Unterstützung auf ausländische Gesetze und zitiert die Klagen gegen Character.AI über psychische Schäden bei Teenagern FTC-Ermittlungen in Begleitdienste und Europäische Maßnahmen gegen ReplikaDie

Die Kontrollhälfte Dies gibt Peking die Möglichkeit, Einfluss darauf zu nehmen, was diese Systeme aussagen, verpackt in die gleiche Sprache des Nutzerschutzes. Beides ist real – und die Regierungen, die das Experiment beobachten, müssen entscheiden, welche Elemente sie übernehmen wollen.

🗣 Pan Helin, ein Mitglied des Expertenkomitees des MIIT, legte den offiziellen Standpunkt klar dar. South China Morning Post, sagte „Die derzeitigen Agenten sind noch nicht ausgereift.“ und die Politik auf Sicherheit und Standardisierung auszurichten.

Die Unternehmen haben vorerst den sichersten ihnen zur Verfügung stehenden Weg gewählt: Schalten Sie die Komponenten aus und überlegen Sie später, wie eine kompatible Version aussehen soll.Die