Die chinesische Polizei hat einen Mann festgenommen, der angeblich ChatGPT genutzt hat, um gefälschte Nachrichten zu verbreitenIn einem bahnbrechenden Fall im Bereich der künstlichen Intelligenz (KI) wurde ein Mann in China verhaftet, weil er angeblich ChatGPT benutzt hatte, um einen gefälschten Nachrichtenartikel über ein Zugunglück zu verfassen, bei dem neun Menschen ums Leben kamen.
Dies ist die erste Durchsetzungsmaßnahme in China auf Grundlage eines beispiellosen dent im Zusammenhang mit KI und unterstreicht die Bemühungen des Landes, den Einsatz fortschrittlicher Technologien zu regulieren und zu kontrollieren.
Der ChatGPT-Fake-News-dent
Ein Mann, der nur als Hongdentwurde, ist von der Polizei in der Provinz Gansu im Nordwesten Chinas festgenommen worden, weil er angeblich mit Hilfe von ChatGPT eine gefälschte Nachricht über einendent verfasst hatte.
Der gefälschte Artikel wurde von mehr als 20 Accounts auf einer Blogging-Plattform des chinesischen Suchmaschinenriesen Baidu veröffentlicht und erreichte über 15.000 Aufrufe.
Um die Duplikatsprüfungen auf der Plattform zu umgehen, soll Hong ChatGPT benutzt haben, um leicht unterschiedliche Versionen des Falschnachrichtenartikels zu generieren.
ChatGPT ist ein Chatbot des US-amerikanischen Unternehmens OpenAI, der generative KI-Technologie nutzt. Diese Technologie ermöglicht es der Software, auf Basis von Nutzereingaben und -fragen Antworten zu generieren, beispielsweise eine Geschichte anhand spezifischer Anweisungen zu erstellen.
Obwohl ChatGPT in China gesperrt ist, kann man dennoch über ein virtuelles privates Netzwerk (VPN) darauf zugreifen, wodurch die Internetbeschränkungen des Landes umgangen werden können.
Als Reaktion auf die wachsende Popularität und die potenziellen Risiken von KI-Systemen wie ChatGPT haben die chinesischen Behörden dieses Jahr ein in dieser Hinsicht erstmaliges Gesetz zur Regelung von „Deep Synthesis Technologies“ eingeführt
Das Gesetz umfasst die Nutzung von KI zur Generierung von Texten, Bildern, Videos oder anderen Medien und verbietet die Verbreitung von Fake News durch Deep-Synthese-Dienste.
Vorsichtige Herangehensweise der chinesischen Technologiegiganten
Während ChatGPT immer mehr tracgewinnt und viral geht, hat Chinas stark zensierte und kontrollierte Internetlandschaft die Regierung veranlasst, Gesetze zu erlassen, die sich mit neuen Technologien befassen, die eine Herausforderung für die zentralen Behörden darstellen könnten.
Aus diesem Grund sind die chinesischen Technologiekonzerne bei der Anwendung von KI vorsichtig vorgegangen und haben die breite Verfügbarkeit von Chatbots wie ChatGPT vermieden. Stattdessen haben sie sich auf spezifische Anwendungsfälle konzentriert.
Alibaba arbeitet beispielsweise an seinem KI-Produkt Tongyi Qianwen, das schließlich in der Arbeitsplatzkommunikationssoftware DingTalk und bei Tmall Genie, einem Anbieter von intelligenten Haushaltsgeräten, implementiert werden soll.
Dieser strategische Ansatz wird als Reaktion auf die Bedenken der Regulierungsbehörden und der Regierung verstanden.
Die Verhaftung von Hong aufgrund des neuen Gesetzes zur Regulierung von Deep-Synthese-Technologien dient als deutliche Mahnung an die potenziellen Konsequenzen des Missbrauchs von KI in China.
Angesichts des fortschreitenden technologischen Fortschritts ist es für Nationen wie China von entscheidender Bedeutung, Richtlinien und Vorschriften zu erlassen, die den potenziellen Bedrohungen durch KI begegnen, insbesondere im Bereich von Fake News und Desinformation.
Die fortlaufende Entwicklung KI-gestützter Chatbots und Anwendungen durch chinesische Technologiekonzerne wird voraussichtlich unter sorgfältiger Aufsicht fortgesetzt, wobei der Fokus auf spezifischen Anwendungsfällen liegt, um die Regulierungsbehörden und die Regierung nicht zu beunruhigen.
Da sich die KI-Technologie weiterentwickelt und immer ausgefeilter wird, ist es entscheidend für die Gewährleistung einer sicheren und zuverlässigen digitalen Landschaft, ein Gleichgewicht zwischen Innovation und Regulierung zu finden.
