In einem bahnbrechenden Fall mit künstlicher Intelligenz (KI) wurde ein Mann in China festgenommen, weil er angeblich ChatGPT verwendet hatte, um einen gefälschten Nachrichtenartikel über einen Zugunglück zu fabrizieren, bei dem neun Menschen ums Leben kamen.
Dies ist die erste Durchsetzungsmaßnahme, die in China nach einem beispiellosen dent im Zusammenhang mit KI ergriffen wird, und unterstreicht die Bemühungen des Landes, den Einsatz fortschrittlicher Technologien zu regulieren und zu kontrollieren.
Der ChatGPT-Fake-News- dent
Ein Mann, den ich nur als Hong dent habe, wurde von der Polizei in der Provinz Gansu im Nordwesten Chinas festgenommen, weil er Berichten zufolge mithilfe von ChatGPT eine gefälschte Nachricht über einen dent erfunden hatte.
Der gefälschte Artikel wurde von mehr als 20 Konten auf einer Blogging-Plattform des chinesischen Suchgiganten Baidu gepostet und über 15.000 Mal aufgerufen.
Um Duplizierungsprüfungen auf der Plattform zu umgehen, wird Hong beschuldigt, ChatGPT verwendet zu haben, um leicht unterschiedliche Versionen des Falschnachrichtenartikels zu generieren.
ChatGPT wurde von OpenAI in den USA entwickelt und ist ein Chatbot, der generative KI-Technologie nutzt. Diese Technologie ermöglicht es der Software, Antworten auf der Grundlage von Benutzereingaben und -fragen zu generieren, z. B. das Erstellen einer Geschichte aus bestimmten Anweisungen.
Obwohl ChatGPT in China blockiert ist, kann dennoch über ein virtuelles privates Netzwerk (VPN) darauf zugegriffen werden, das die Internetbeschränkungen des Landes umgehen kann.
Als Reaktion auf die wachsende Popularität und die potenziellen Risiken von KI wie ChatGPT führten die chinesischen Behörden in diesem Jahr ein einzigartiges Gesetz ein, das „Tiefensynthesetechnologien“ regelt.
Das Gesetz umfasst die Verwendung von KI zur Generierung von Text, Bildern, Videos oder anderen Medien und verbietet die Verbreitung von Fake News durch Deep-Synthesis-Dienste.
Der vorsichtige Ansatz chinesischer Technologiegiganten
Während ChatGPT an trac gewinnt und viral wird, hat Chinas stark zensierte und kontrollierte Internetlandschaft die Regierung dazu veranlasst, Gesetze zu erlassen, die sich mit neuen Technologien befassen, die zentrale Behörden vor Herausforderungen stellen können.
Folglich waren chinesische Technologiegiganten bei ihrer Herangehensweise an KI-Anwendungen vorsichtig, vermieden die weit verbreitete Verfügbarkeit von Chatbots wie ChatGPT und konzentrierten sich stattdessen auf bestimmte Anwendungsfälle.
Alibaba arbeitet beispielsweise an seinem KI-Produkt Tongyi Qianwen, das schließlich in seiner Arbeitsplatzkommunikationssoftware DingTalk und Tmall Genie, einem Anbieter von intelligenten Haushaltsgeräten, implementiert wird.
Dieser strategische Ansatz soll eine Antwort auf die Bedenken der Regulierungsbehörden und der Regierung sein.
Die Verhaftung von Hong nach dem neuen Gesetz zur Regulierung von Deep-Synthese-Technologien ist eine deutliche Erinnerung an die möglichen Folgen des Missbrauchs von KI in China.
Da die Technologie weiter voranschreitet, ist es für Nationen wie China von entscheidender Bedeutung, Richtlinien und Vorschriften zu erlassen, die sich mit potenziellen Bedrohungen durch KI befassen, insbesondere im Bereich gefälschter Nachrichten und Fehlinformationen.
Die laufende Entwicklung von KI-gestützten Chatbots und Anwendungen durch chinesische Technologiegiganten wird wahrscheinlich unter sorgfältiger Überwachung fortgesetzt, wobei der Schwerpunkt auf bestimmten Anwendungsfällen liegt, um zu vermeiden, dass Aufsichtsbehörden und die Regierung alarmiert werden.
Da sich die KI-Technologie weiterentwickelt und immer ausgefeilter wird, wird es entscheidend sein, ein Gleichgewicht zwischen Innovation und Regulierung zu finden, um eine sichere und zuverlässige digitale Landschaft zu gewährleisten.
