KI erzeugt Falschnachrichten, die zur Verhaftung eines Mannes in China führen: Bericht

Ein Mann, der nur unter dem Namen „Hong“ bekannt ist, wurde festgenommen , nachdem er mutmaßlich den ChatGPT-Dienst genutzt hatte, um Falschmeldungen zu verbreiten. Die Festnahme erfolgte, nachdem im Zuge von Ermittlungen ein unbestätigter Artikel über ein Zugunglück auf einer beliebten Blogging-Plattform des chinesischen Technologiekonzerns Baidu entdeckt worden war. Cybersicherheitsexperten stellten fest, dass mindestens 20 Accounts gleichzeitig den Falschmeldungsartikel veröffentlicht hatten, was schließlich zu Hongs Festnahme führte.

China hat einige der strengsten Gesetze weltweit bezüglich der Nutzung sozialer Medien. Hong wurde verhaftet, weil er „künstliche Intelligenz zur Verbreitung falscher und unwahrer Informationen eingesetzt“ hatte. Damit verstieß er gegen eine Verordnung gegen „Streitsucht und Unruhestiftung“, die insbesondere die Verbreitung von Falschnachrichten und Gerüchten im Internet umfasst. Sollte Hong angeklagt werden, drohen ihm nach dem geltenden Recht bis zu fünf Jahre Haft. Bei besonders schwerwiegenden Vergehen könnten die Strafen jedoch auf bis zu zehn Jahre erhöht werden.

Obwohl der ChatGPT-Dienst in China derzeit verboten ist, kann seine Nutzung durch virtuelle private Netzwerke (VPNs) verschleiert werden. Chinesische KI-Dienstewie Alibabas „Tongyi Qianwen“, das kürzlich als generatives KI-Modell vorgestellt wurde, das darauf trainiert ist, Fragen auf Englisch und Mandarin zu beantworten, haben hingegen die Zustimmung der chinesischen Regierung erhalten. Es bleibt unklar, ob Tongyi Qianwen über dieselben kreativen Fähigkeiten wie ChatGPT verfügen wird.

Wachsende Besorgnis über den Missbrauch von KI-Technologie

Der Mangel an robusten generativen KI-Modellen in China könnte die Technologiebranche des Landes erheblich beeinträchtigen, insbesondere in Sektoren wie Fintech und Kryptowährungshandel, wo die Nutzung von ChatGPT und Produkten, die auf der GPT-API von OpenAI basieren, rasant zugenommen hat. Es ist wahrscheinlich, dass die chinesische Regierung den Einsatz von KI-Technologien weiterhin überwachen und gegen diejenigen vorgehen wird, die diese zur Verbreitung von Falschinformationen missbrauchen.

Derdent unterstreicht die wachsende Besorgnis über den Missbrauch von künstlicher Intelligenz. Obwohl künstliche Intelligenz ein enormes Potenzial zur Transformation zahlreicher Branchen birgt, sind damit auch erhebliche Risiken verbunden. Die Fähigkeit, schnell und einfach überzeugende Falschmeldungen zu generieren, könnte schwerwiegende Folgen für das Vertrauen der Öffentlichkeit in Medien und Regierung haben. Angesichts der fortschreitenden Entwicklung künstlicher Intelligenz ist es daher unerlässlich, wirksame Strategien zu entwickeln, um ihren Missbrauch zu verhindern und sicherzustellen, dass sie zum Wohle der Allgemeinheit eingesetzt wird.