KI generiert Fake-News, die zur Festnahme eines Mannes in China führen: Bericht

Ein Mann, der nur als „Hong“ bekannt ist, wurde festgenommen im Bezirk Gansu in China, nachdem er angeblich den ChatGPT-Dienst genutzt hat, um Fake-News-Geschichten zu generieren. Hongs Festnahme erfolgte nach einer Untersuchung eines unbegründeten Artikels über einen Zugunfall, der auf einer beliebten Blogging-Plattform entdeckt wurde, die vom chinesischen Tech-Konglomerat Baidu gehostet wird. Cybersicherheitsexperten stellten fest, dass mindestens 20 Konten gleichzeitig den Fake-News-Artikel veröffentlicht hatten, was zu Hongs Festnahme führte.

China hat einige der strengsten Gesetze der Welt in Bezug auf die Nutzung sozialer Medien, und Hong wurde wegen „der Nutzung von KI-Technologie zur Erfindung falscher und unwahrer Informationen“ festgenommen, was gegen eine Verordnung zur „Anstiftung zu Streitigkeiten und zur Herbeiführung von Unruhen“ verstößt, die speziell die Verbreitung von Fake-News und Gerüchten im Internet abdeckt. Wenn Hong angeklagt wird, drohen ihm bis zu fünf Jahre Gefängnis nach dem normalen Gesetz, aber er könnte bis zu 10 Jahre Gefängnis erhalten, wenn die Gerichte die Straftat als besonders schwerwiegend einstufen.

Obwohl der ChatGPT-Dienst in China derzeit verboten ist, kann seine Nutzung durch virtuelle private Netzwerke (VPNs) verschleiert werden. Allerdings haben inländische KI-Dienste, wie Alibabas „Tongyi Qianwen“, der kürzlich als generatives KI-Modell angekündigt wurde, das darauf trainiert ist, Fragen sowohl auf Englisch als auch auf Mandarin zu beantworten, die Zustimmung der chinesischen Regierung erhalten. Es bleibt unklar, ob Tongyi Qianwen über dieselben kreativen Fähigkeiten wie ChatGPT verfügen wird.

Wachsende Besorgnis über den Missbrauch von KI-Technologie

Das Fehlen robuster generativer KI-Modelle in China könnte einen abschreckenden Effekt auf die Tech-Szene des Landes haben, insbesondere in Sektoren wie Fintech und Kryptowährungshandel, in denen die Nutzung von ChatGPT und Produkten, die auf OpenAIs GPT-API basieren, an Popularität gewonnen hat. Es ist wahrscheinlich, dass die chinesische Regierung die Nutzung von KI-Technologien weiterhin überwachen und gegen diejenigen vorgehen wird, die sie zur Verbreitung falscher Informationen nutzen.

Der Vorfall unterstreicht auch die wachsende Besorgnis über den Missbrauch von KI-Technologie. Während KI enormes Potenzial hat, eine Reihe von Branchen zu transformieren, birgt sie auch erhebliche Risiken. Die Fähigkeit, überzeugende Fake-News-Geschichten schnell und einfach zu generieren, könnte schwerwiegende Folgen für das öffentliche Vertrauen in die Medien und die Regierung haben. Da KI weiterhin fortschreitet, ist es entscheidend, wirksame Strategien zu entwickeln, um ihren Missbrauch zu verhindern und sicherzustellen, dass sie dem Gemeinwohl dient.