Chinas KI-Regeln zwingen ByteDance und Alibaba zur Abschaltung ihrer Begleit-Bots

ByteDance und Alibaba stellen ihre nutzergenerierten KI-Begleittools im Vorfeld neuer Gesetze zur Regelung der Mensch-KI-Interaktion in China schrittweise ein. 

ByteDance wird seine KI-gestützte Persona-Funktion für Doubao am 15. Juli deaktivieren. Das Unternehmen erklärte, die Einstellung sei Teil von „Anpassungen der Produktfunktionen“

Außerdem wurde mitgeteilt, dass alle verbleibenden Daten bis zum 15. Oktober gelöscht oder sicher archiviert werden. Alibabas Qwen kündigte daraufhin an, seine menschenähnlichen Bots am 10. Juli zu entfernen und alle Agentenfunktionen am 15. Juli abzuschalten.

Die Einstellung dieser Plattformen bedeutet einen Verlust an Personalisierung für die Nutzer. Diese Anwendungen boten eine Reihe von individuell anpassbaren Agenten, die sowohl von Nutzern als auch von Unternehmen erstellt wurden und spezifische Aufgaben in unterschiedlichen Sprachstilen ausführen konnten. Nutzer konnten ihren Chatbot in einen persönlichen Assistenten, Tutor oder Begleiter verwandeln.

China hat einen Rahmen zur Regulierung der Mensch-KI-Interaktionen erlassen

Doubao und Qwen gaben ihre Ankündigungen nur wenige Tage, nachdem Tencents Yuanbao seine eigenen KI-Agenten-Tools bereits entfernt hatte, bekannt. Yuanbao erklärte, dass Nutzer nach der Deaktivierung des Zugangspunkts die zugehörigen Konversationen nicht mehr sehen würden, da diese gemäß den Datenaufbewahrungsrichtlinien der Plattform gelöscht würden. 

Diese Abschaltungen stehen im Zusammenhang mit dem Inkrafttreten neuer Gesetze ab dem 15. Juli. Die bereits im April vorgeschlagenen „Interimsmaßnahmen zur Verwaltung humanisierter interaktiver Dienste auf der Grundlage künstlicher Intelligenz“ zielen darauf ab, KI zu regulieren, die menschliche Persönlichkeitsmerkmale und kognitiven Stil sowie anhaltende emotionale Beziehungen nachahmt.

Die Gesetzgebung entstand aus der Befürchtung, dass Menschen emotional zu abhängig von lebensechterdent geworden sind. Gesetzgeber wiesen auf schwerwiegende Schäden für die psychische Gesundheit von Minderjährigen, Datenschutzverletzungen, Gefahren für die öffentliche Gesundheit und ethische Kompromisse hin. Daher verbietet das neue Rahmenwerk Plattformen, Inhalte zu erstellen, die die Gefühle von Minderjährigen manipulieren oder sie dazu verleiten, einen KI-Freund dem realen Leben vorzuziehen. Außerdem ist es den Plattformen untersagt, persönliche Chatverläufe zum Trainieren ihrer zukünftigen KI-Modelle zu verwenden.

Dennoch sind Arbeitsplatzassistenten, Kundenservice-Bots, Lernwerkzeuge und Forschungsplattformen von den neuen Regeln ausgenommen, sofern sie keine längerfristige emotionale Bindung ermöglichen. 

In seiner offiziellen Ankündigung stellte ByteDance klar, dass die Cat Box App ihre Funktionen zur Erstellung neuer intelligenter Agenten und zur Einführung von Dialogdiensten beibehalten wird. 

Besteht weltweit ein wachsender Bedarf an der Regulierung von KI-Chatbots?

Weltweit geraten Technologieplattformen mit lebensechter KI zunehmend in die Kritik. So sehen sich beispielsweise OpenAI und das von Alphabet unterstützte Unternehmen Character.AI in den USA mit einer Reihe von hochkarätigen Klagen konfrontiert. Kritiker argumentieren, dass diese Chatbots, die lebensechte Eigenschaften imitieren, riskante emotionale Bindungen zwischen Nutzern hervorrufen und im schlimmsten Fall sogar zu Selbstmorden führen können.

Im vergangenen September berichtete Matthew Raine, dessen 16-jähriger Sohn Adam sich tragischerweise das Leben nahm, vor einem Ausschuss des US-Senats, dass die Software ChatGPT von OpenAI seinen Sohn in den Selbstmord getrieben habe. Er erklärte: „Wir sind hier, weil wir glauben, dass Adams Tod vermeidbar gewesen wäre und dass wir durch unser öffentliches Auftreten verhindern können, dass Familien im ganzen Land dasselbe Leid erleiden.“

Etwa zur gleichen Zeit leitete die Federal Trade Commission Untersuchungen gegen Elon Musks xAI, Snap Inc. und Character Technologies Inc. ein, da Bedenken bestanden, dass deren KI-Bots eine Gefahr für Kinder darstellen könnten. 

Eine Mutter hatte Character AI außerdem beschuldigt, zur Verschlechterung des psychischen Zustands ihres Sohnes beigetragen zu haben. Sie behauptete, der Chatbot habe ihren Sohn zu aggressivem Verhalten verleitet und zu seinen selbstverletzenden Handlungen beigetragen.

Unterdessen erwägt China Regulierungen für physische Hardware. Zwei chinesische Verbände der Robotikindustrie drängen angesichts des rasanten Anstiegs in der letzten Jahre auf verbesserte ethische Sicherheitsvorkehrungen für Begleitroboter und humanoide Roboter in Originalgröße. Forscher von Morgan Stanley prognostizieren sogar, dass es bis 2050 weltweit rund eine Milliarde humanoide Roboter geben wird, was einen Markt von 7,5 Billionen US-Dollar ausmachen würde.

Auch in den USA wurden ähnliche Bedenken hinsichtlich humanoider Roboter geäußert. Bislang geben die Hersteller an, dass ihre Roboter keine schweren Verletzungen oder Todesfälle verursacht haben. Da diese Maschinen jedoch ein Gewicht von fast 90 Kilogramm erreichen, befürchten Arbeiter, welchen Schaden ein laufender Roboter anrichten könnte, wenn er plötzlich die Stromversorgung verliert.