Chinesischer Mann festgenommen wegen Verwendung von ChatGPT zum Schreiben von Nachrichten

In einem wegweisenden Fall im Zusammenhang mit künstlicher Intelligenz (KI) wurde ein Mann in China festgenommen, der angeblich ChatGPT verwendet hat, um einen gefälschten Nachrichtenartikel über einen Zugunfall zu verfassen, bei dem neun Menschen ums Leben kamen.

Dies ist die erste Durchsetzungsmaßnahme in China unter einem beispiellosen Gesetz im Zusammenhang mit KI, was die Bemühungen des Landes zur Regulierung und Kontrolle des Einsatzes fortschrittlicher Technologien unterstreicht.

Der Fake-News-Vorfall mit ChatGPT

Ein Mann, der nur als Hong identifiziert wurde, wurde von der Polizei in der Provinz Gansu im Nordwesten Chinas festgenommen, weil er angeblich eine gefälschte Nachrichtengeschichte über einen Zugunfall mit ChatGPT erstellt hat.

Der gefälschte Artikel wurde von mehr als 20 Konten auf einer Blogging-Plattform des chinesischen Suchmaschinenriesen Baidu veröffentlicht und verzeichnete über 15.000 Aufrufe.

Um Duplikatsprüfungen auf der Plattform zu umgehen, wird Hong beschuldigt, ChatGPT verwendet zu haben, um leicht unterschiedliche Versionen des falschen Nachrichtenartikels zu generieren.

ChatGPT, entwickelt vom US-amerikanischen Unternehmen OpenAI, ist ein Chatbot, der auf generativer KI-Technologie basiert. Diese Technologie ermöglicht es Software, Antworten basierend auf Benutzeranfragen und -fragen zu generieren, wie zum Beispiel das Verfassen einer Geschichte aus spezifischen Anweisungen.

Obwohl ChatGPT in China blockiert ist, kann es weiterhin über ein Virtual Private Network (VPN) zugänglich sein, das die Internetbeschränkungen des Landes umgehen kann.

Als Reaktion auf die wachsende Popularität und die potenziellen Risiken von KI wie ChatGPT haben die chinesischen Behörden in diesem Jahr ein Gesetz von seiner Art eingeführt, das „Deep-Synthesis-Technologien“ regelt.

Das Gesetz umfasst die Verwendung von KI zur Generierung von Texten, Bildern, Videos oder anderen Medien und verbietet die Verbreitung von Fake News durch Deep-Synthesis-Dienste.

Vorsichtiger Ansatz der chinesischen Tech-Giganten

Während ChatGPT an Fahrt gewinnt und viral geht, hat die stark zensierte und kontrollierte Internetlandschaft Chinas die Regierung dazu veranlasst, Gesetze zu neuen Technologien zu erlassen, die Herausforderungen für die zentralen Behörden darstellen könnten.

Folglich sind chinesische Technologiegiganten in ihrem Ansatz für KI-Anwendungen vorsichtig und vermeiden die weit verbreitete Verfügbarkeit von Chatbots wie ChatGPT, sondern konzentrieren sich stattdessen auf bestimmte Anwendungsfälle.

Alibaba arbeitet beispielsweise an seinem KI-Produkt Tongyi Qianwen, das schließlich in seiner DingTalk-Software für die Arbeitsplatzkommunikation und Tmall Genie, einem Anbieter von Smart-Home-Geräten, implementiert werden soll.

Dieser strategische Ansatz wird als Reaktion auf die Bedenken der Aufsichtsbehörden und der Regierung angesehen.

Die Festnahme von Hong nach dem neuen Gesetz zur Regulierung von Deep-Synthesis-Technologien dient als deutliche Erinnerung an die möglichen Konsequenzen des Missbrauchs von KI in China.

Da die Technologie weiterhin voranschreitet, ist es für Nationen wie China entscheidend, Richtlinien und Vorschriften zu etablieren, die potenzielle Bedrohungen durch KI angehen, insbesondere im Bereich von Fake News und Desinformation.

Die laufende Entwicklung von KI-gestützten Chatbots und Anwendungen durch chinesische Technologiegiganten wird wahrscheinlich unter sorgfältiger Aufsicht fortgesetzt, mit dem Fokus auf bestimmte Anwendungsfälle, um Aufsichtsbehörden und die Regierung nicht zu beunruhigen.

Während sich die KI-Technologie weiterentwickelt und anspruchsvoller wird, wird es entscheidend sein, ein Gleichgewicht zwischen Innovation und Regulierung zu finden, um eine sichere und zuverlässige digitale Landschaft zu gewährleisten.