China sagt Nein zu KI-Chatbots gegen Selbstmord und Glücksspiel

Chinesische Regulierungsbehörden planen ein hartes Vorgehen gegen KI-gestützte Chatbots, die Menschen zu Suizidgedanken, Selbstverletzungen und Glücksspiel verleiten. Diese Entwicklung erfolgt, nachdem zwei führende chinesische Chatbot-Unternehmen kürzlich Börsengänge in Hongkong beantragt haben.

Berichten zufolge sollen die am Samstag angekündigten neuen Maßnahmen für KI-Produkte oder -Dienstleistungen gelten, die der Öffentlichkeit in China angeboten werden und die menschliche Persönlichkeit simulieren und die Nutzer emotional über Texte, Bilder, Audio oder Video ansprechen.

Chinas Vorschläge sollen Minderjährige vor Selbstverletzungen schützen

Laut dem am Samstag von der Cyberspace-Administration veröffentlichten Entwurf der Regeln zielen diese auf das ab, was sie als „menschenähnliche interaktive KI-Dienste“ bezeichnet, wie aus der Übersetzung des chinesischsprachigen Dokuments durch CNBC hervorgeht

Der Regelentwurf enthält mehrere Vorschläge. Beispielsweise KI-Chatbots keine Inhalte generieren, die zu Selbstverletzung oder Suizid anstiften, verbale Gewalt ausüben oder emotionale Manipulationen vornehmen, die die psychische Gesundheit der Nutzer schädigen können.

Darüber hinaus dürfen KI-Chatbots keine obszönen, gewalttätigen oder glücksspielbezogenen Inhalte erstellen. Laut den Entwurfsregeln muss im Falle einer Suizidabsicht eines Nutzers ein Mitarbeiter des KI-Unternehmens das Gespräch übernehmen und umgehend den Vormund oder eine benannte Person des Nutzers kontaktieren.

Die Entwurfsregeln sehen außerdem vor, dass Minderjährige für die Nutzung von KI-Diensten zur emotionalen Begleitung die Zustimmung eines Erziehungsberechtigten benötigen und die Nutzung zeitlich begrenzt sein muss. Gemäß den neuen Regeln sollen KI-Plattformen selbst entscheiden, ob ein Nutzer volljährig oder minderjährig ist, auch wenn dieser sein Alter nicht angibt. Im Zweifelsfall müssen die Plattformen Einstellungen für Minderjährige anwenden und gleichzeitig die Möglichkeit zum Einspruch einräumen.

Sobald diese Regeln endgültig verabschiedet sind, stellen sie laut Winston Ma, Professor an der NYU School of Law, den weltweit ersten Versuch dar, KI mit menschlichen oder anthropomorphen Eigenschaften zu regulieren. Diese Entwicklungen erfolgen vor dem Hintergrund, dass Unternehmen in rasantem Tempo KI-Begleiter und digitale Prominente entwickeln.

Im Vergleich zu Chinas KI-Regulierung für generative Anwendungen aus dem Jahr 2023 meinte Ma, diese Version verdeutliche einen „Sprung von der Inhaltssicherheit hin zu emotionalen Aspekten“

Die Vorschläge erfolgen, nachdem die beiden chinesischen KI-Chatbot-Startups Z.ai und Minimax diesen Monat ihre Börsengänge (IPOs) in Hongkong beantragt haben. Minimax ist international vor allem für seine Talkie-AI-App bekannt, mit der Nutzer mit virtuellen Charakteren chatten können.

Laut CNBC machte die App zusammen mit ihrer chinesischen Version Xingye in den ersten drei Quartalen des Jahres mehr als ein Drittel des Umsatzes des Unternehmens aus, mit durchschnittlich über 20 Millionen monatlich aktiven Nutzern in diesem Zeitraum.

Z.ai, auch bekannt als Zhipu, meldete sich unter dem Namen Knowledge Atlas Technology, gab aber die Zahl der monatlich aktiven Nutzer nicht bekannt. Das KI-Unternehmen verriet jedoch, dass seine Technologie auf rund 80 Millionen Geräten zum Einsatz kommt, darunter Smartphones, PCs und vernetzte Fahrzeuge.

Wie Cryptopolitan bereits berichtete , peilen die beiden KI-Startups, die beide von Alibaba und Tencent unterstützt werden, einen Börsengang Anfang Januar nächsten Jahres an der Hongkonger Börse an.