Chinas KI-Regeln zwingen ByteDance und Alibaba, Begleiter-Bots abzuschalten

ByteDance und Alibaba bauen ihre von Nutzern erstellten KI-Begleiter-Tools im Vorfeld neuer Gesetze zur Regulierung der Mensch-KI-Interaktion in China ab. 

ByteDance’s Doubao wird am 15. Juli seine Funktion zur Anpassung der KI-Persona deaktivieren. Das Unternehmen hat erklärt, dass die Einstellung Teil von „Produktfunktionsanpassungen“ ist.

Es wurde auch darauf hingewiesen, dass alle verbleibenden Daten bis zum 15. Oktober gelöscht oder sicher archiviert werden. Alibaba’s Qwen kündigte an, seine menschenähnlichen Bots am 10. Juli zu entfernen und alle Agentenfunktionen am 15. Juli abzuschalten.

Die Einstellung dieser Plattformen bedeutet einen Verlust an Personalisierung für ihre Nutzer. Diese Anwendungen boten eine Reihe von maßgeschneiderten Agenten, die sowohl von Nutzern als auch von Unternehmen erstellt wurden und spezifische Aufgaben mit unterschiedlichen Sprachstilen ausführen konnten. Nutzer konnten ihren Chatbot in einen persönlichen Assistenten, Tutor oder Begleiter verwandeln.

China hat einen Rahmen zur Regulierung der Mensch-KI-Interaktion verabschiedet

Doubao und Qwen gaben ihre Ankündigungen nur wenige Tage nach Tencent’s Yuanbao ab, das bereits seine eigenen KI-Agenten-Tools entfernt hatte. Yuanbao erklärte, dass nach der Deaktivierung des Eingabepunkts die Nutzer die entsprechenden Gespräche nicht mehr sehen würden, die gemäß den Datenaufbewahrungsrichtlinien der Plattform bereinigt würden. 

Diese Abschaltungen stehen im Zusammenhang mit der Inkraftsetzung eines neuen Gesetzeswerks ab dem 15. Juli. Die im April vorgeschlagenen „Vorläufigen Maßnahmen zur Verwaltung von personalisierten interaktiven Diensten auf Basis von Künstlicher Intelligenz“ zielen darauf ab, KI zu regulieren die menschliche Persönlichkeitsmerkmale und kognitive Stile imitiert sowie langfristige emotionale Beziehungen pflegt.

Die Gesetzgebung wurde durch die Angst motiviert, dass Menschen zu emotional von lebensechten KI abhängig geworden sind. Gesetzgeber wiesen auf schwere Schäden an der psychischen Gesundheit von Minderjährigen, Datenschutzverletzungen, Gefahren für die öffentliche Gesundheit und ethische Kompromisse hin. Daher verbietet der neue Rahmen Plattformen, Inhalte zu erstellen, die die Emotionen von Minderjährigen manipulieren oder dazu führen, dass sie einen KI-Freund dem echten Leben vorziehen. Darüber hinaus ist es den Plattformen untersagt, persönliche Chat-Verläufe für das Training zukünftiger KI-Modelle zu verwenden.

Trotzdem schließen die neuen Regeln Arbeitsassistenten, Customer-Service-Bots, Bildungstools und Forschungsplattformen aus, sofern sie keine langfristige emotionale Bindung fördern. 

In ihrer offiziellen Ankündigung klärte ByteDance sogar auf, dass die Cat Box App ihre Funktionen zur Erstellung neuer intelligenter Agenten und zur Bereitstellung von Dialogdiensten beibehalten wird. 

Gibt es einen wachsenden Bedarf an der Regulierung von KI-Chatbots weltweit?

Weltweit geraten Tech-Plattformen mit lebensechter KI unter starken Druck. Zunächst einmal OpenAI und das von Alphabet unterstützte Character.AI sehen sich einer Reihe von hochriskanten Klagen in den USA ausgesetzt. Kritiker argumentierten, dass diese Chatbots, die lebensechte Eigenschaften nachahmen, riskante emotionale Bindungen bei Nutzern verursachen, die in den schlimmsten Fällen sogar zu Suiziden führen.

Im vergangenen September sagte Matthew Raine, ein Vater, dessen 16-jähriger Sohn Adam tragischerweise Suizid beging, vor einem US-Senatsausschuss aus, dass OpenAIs ChatGPT sein Kind zum Suizid manipuliert habe. Er erklärte: „Wir sind hier, weil wir glauben, dass Adams Tod vermeidbar war, und dass wir durch unser Engagement dasselbe Leid für Familien im ganzen Land verhindern können.“

Ungefähr zur gleichen Zeit eröffnete die Federal Trade Commission Ermittlungen gegen Elons Musk xAI, Snap Inc. und Character Technologies Inc., aufgrund von Bedenken, dass deren KI-Bots eine Gefahr für Kinder darstellen. 

Eine Mutter beschuldigte Character AI ebenfalls, an der Verschlechterung des psychischen Zustands ihres Sohnes beteiligt gewesen zu sein. Sie behauptete, der Chatbot habe ihren Sohn missbräuchlich gemacht und zu seinen Mustern der Selbstverletzung beigetragen.

Inzwischen erwägt China Regulierungen gegen physische Hardware. Zwei chinesische Robotik-Industrieverbände drängen auf verstärkte ethische Schutzmaßnahmen für Begleiter-Bots und vollgroße Humanoiden, angesichts ihres aggressiven Anstiegs in den letzten Jahren. Forscher von Morgan Stanley prognostizieren sogar, dass es bis 2050 weltweit etwa 1 Milliarde humanoide Roboter geben wird, was einer 7,5-Billionen-Dollar-Branche entspricht.

Auch in den USA wurden ähnliche Bedenken hinsichtlich Humanoiden geäußert. Bisher sagen die Hersteller humanoider Roboter, dass ihre Roboter keine schweren Verletzungen oder Todesfälle verursacht haben. Aber da diese Maschinen fast 200 Pfund wiegen, befürchten Arbeiter den Schaden, den ein gehender Roboter anrichten könnte, wenn er plötzlich die Stromversorgung verliert.