Für Millionen Nutzer in China wird aus einem digitalen Freund in diesen Tagen ein stummer Bildschirm. Der Grund ist keine technische Panne, sondern eine neue Verordnung aus Peking, der sich die grössten chinesischen Technologiekonzerne bereits vor deren Inkrafttreten beugen.
Grundlage sind die «Interim Measures for the Administration of AI Anthropomorphic Interactive Services», die am 10. April 2026 von der Cyberspace Administration of China (CAC) zusammen mit vier weiteren Behörden erlassen wurden. Sie treten am 15. Juli 2026 in Kraft und richten sich gegen KI-Dienste, die menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile simulieren, um eine dauerhafte emotionale Interaktion aufrechtzuerhalten.
Kundendienst-Bots, Wissens-Chatbots und reine Arbeitsassistenten sind ausdrücklich ausgenommen, solange sie keine anhaltende emotionale Bindung anstreben.
Die grössten Anbieter räumen vorzeitig auf
Statt die Frist abzuwarten, handeln die betroffenen Konzerne bereits jetzt. Bei Doubao, Chinas meistgenutztem Chatbot mit über 300 Millionen monatlichen Nutzern, geht die Persona-Funktion am 15. Juli offline. Alibabas Qwen legt die menschenähnlichen Agenten bereits am 10. Juli still, weitere Agenten-Funktionen folgen fünf Tage später. Tencents Yuanbao hatte bereits im Juni entsprechende Anpassungen vorgenommen.
Wie weit der Druck bereits wirkt, zeigt ein Fall aus Shanghai. Die dortige Internetaufsicht teilte am 26. Juni mit, mehr als 14’000 nicht konforme KI-Agenten entfernt zu haben, unter anderem wegen Identitätsvortäuschung offizieller Stellen, anstössiger Rollenspiele und unautorisierter Datensammlung.
Was die neuen Regeln konkret verlangen
Anbieter müssen künftig vor übermässiger Nutzung warnen und bei erkennbarem Suchtverhalten eingreifen. Inhalte, die bei Minderjährigen extreme Gefühle auslösen oder Abhängigkeiten fördern, welche reale Beziehungen verdrängen, sind untersagt. Offen bleibt laut Fachbeobachtern allerdings, wie die Haftung zwischen Plattformbetreibern und den zugrunde liegenden Modellanbietern verteilt wird, wenn ein Verstoss aus den Modell-Ausgaben selbst entsteht.
Kein Sonderweg, sondern ein globales Muster
Auffällig ist: Peking begründet den eigenen Vorstoss ausdrücklich mit Verweisen auf den Westen. Die chinesische Argumentation verweist auf die Klagen gegen Character.AI wegen psychischer Schäden bei Jugendlichen, auf Untersuchungen der amerikanischen Handelsaufsicht FTC zu Companion-Diensten sowie auf europäische Massnahmen gegen Replika.
In den USA ist Kalifornien bereits vorangegangen. Seit dem 1. Januar 2026 verpflichtet das Gesetz SB 243 Anbieter von KI-Companions dazu, Gespräche über Suizid, Selbstverletzung und sexuell explizite Inhalte zu unterbinden. Parallel laufen in den USA Zivilklagen gegen Character.AI und OpenAI wegen angeblich gefährlicher emotionaler Abhängigkeiten, die Nutzer zu den Systemen entwickelt haben sollen.
In der EU greift der bestehende Rechtsrahmen bislang nur eingeschränkt. Der AI Act kennt keine eigene Hochrisiko-Kategorie für KI-Companions. Extreme Fälle könnten zwar unter das Verbot manipulativer KI-Praktiken fallen, doch dafür muss ein erheblicher Schaden wahrscheinlich sein – eine hohe rechtliche Hürde. Das EU-Parlament fordert deshalb eine ausdrückliche Aufnahme von KI-Companions in den Hochrisikokatalog sowie eine Altersgrenze von grundsätzlich 16 Jahren.
Folgen für Nutzer in der Schweiz und anderswo
Westliche Plattformen werden ihre Companion-Funktionen kaum über Nacht abschalten. Wahrscheinlicher sind schrittweise Anpassungen: sichtbarere Warnhinweise, strengere Schutzmechanismen für Minderjährige und Einschränkungen bei besonders intensiven emotionalen Interaktionen.
Gleichzeitig rückt der Datenschutz stärker in den Fokus. Gespräche mit KI-Begleitern gehören zu den persönlichsten Informationen, die Menschen digital preisgeben. Entsprechend wächst die Erwartung, dass solche Daten nicht ohne transparente Regeln zum Training künftiger Systeme verwendet werden.
Chinas Vorgehen zeigt, wie ernst Regierungen die gesellschaftlichen Folgen emotionaler KI inzwischen nehmen. Unstrittig ist, dass KI längst nicht mehr nur ein Werkzeug zum Schreiben, Programmieren oder Recherchieren ist. Sie wird zunehmend zu einem sozialen Gegenüber, und genau darin liegen neue Chancen ebenso wie neue Risiken.
