Chinas Regulierungsbehörden verstärken die Überwachung von KI-Desinformation im Zusammenhang mit Marktmanipulation

Chinas Wertpapieraufsichtsbehörde hat sich verpflichtet, ihre Aufgabe, Falschinformationen am Aktienmarkt zu überwachen, noch besser zu erfüllen und gemeinsam mit der Polizei und den Cybersicherheitsbehörden diejenigen zur Rechenschaft zu ziehen, die sich der Verbreitung falscher Nachrichten schuldig gemacht haben. 

Falschnachrichten gab es schon immer und sie richten auch heute noch verheerende Schäden an. Die zunehmende Verbreitung von KI hat die Verbreitung von Falschnachrichten jedoch so einfach wie nie zuvor gemacht. Laut der Securities Times liegt es nun an den Regulierungsbehörden, „frühzeitig, entschieden und an der Wurzel des Problems“ einzugreifen.

KI ist zu einem Werkzeug zur Verbreitung von Fehlinformationen geworden

Künstliche Intelligenz, insbesondere generative KI, hat sich so weit entwickelt, dass sie zu einer Bedrohung für die Verbreitung wahrer Informationen geworden ist.

Jeder könnte an eine KI gelangen, und wenn er entschlossen genug ist, kann er sich sogar seine eigene erschaffen.

Laut einem separaten Artikel der Shanghai Securities News werden diese KIs nun dazu benutzt, irreführende Informationen zu verbreiten, um Anleger zu betrügen oder Aktien zu manipulieren.

Gierige Anleger verfallen schnell dem Versprechen, schnell reich zu werden, und diejenigen, die betrogen wurden, verbreiten Misstrauen gegenüber KI. Wer kann es ihnen verdenken? Es ist schwer, eine Technologie zu akzeptieren, wenn man ihre Schattenseiten kennengelernt hat.

Trotz der potenziellen Gefahren hat das Aufkommen von Unternehmen wie dem chinesischen KI-Startup DeepSeek Privatanleger und Fondsmanager dazu veranlasst, KI zur Bewertung von Unternehmen und für Investitionen einzusetzen.

🚀 DeepSeek-R1 ist da!

⚡ Leistung auf Augenhöhe mit OpenAI-o1
📖 Vollständig quelloffenes Modell & technischer Bericht
🏆 MIT-Lizenz: Frei destillieren & kommerzialisieren!

🌐 Website und API sind jetzt live! Testen Sie DeepThink noch heute unter https://t.co/v1TFy7LHNy !

🐋 1/n pic.twitter.com/7BlpWAPu6y

– DeepSeek (@deepseek_ai) 20. Januar 2025

Ein Risikofaktor für die Akzeptanz dieser Technologie ist die Befürchtung, dass Anleger durch von künstlicher Intelligenz erzeugte Falschnachrichten irregeführt werden.

Laut Securities Times will die chinesische Wertpapieraufsichtsbehörde (China Securities Regulatory Commission) proaktiver gegen Gerüchte am Aktienmarkt vorgehen, indem sie Klarstellungen veröffentlicht, die Anlegerbildung fördert und gleichzeitig Leitlinien bereitstellt, die Anlegern helfen, Falschinformationen zu erkennen.

Am Freitag erließen die chinesischen Behörden Richtlinien, vorschreiben . Dies ist Teil des Kampfes gegen den Missbrauch von KI und die Verbreitung von Falschinformationen.

Die Berichte der Securities Times und der Shanghai Securities News fallen zeitlich mit dem jährlichen Weltverbrauchertag am 15. März zusammen, einem wichtigen Fernseh- und Social-Media-Ereignis in China, das dem Verbraucherschutz dient.

China wird regelmäßig beschuldigt, mit KI Desinformationen zu verbreiten, die sich an westliche Zielgruppen richten

Außerhalb Chinas nutzt die chinesische Regierung jedoch Berichten zufolge KI, um durch ihre Agenten einen Desinformationskrieg gegen die westliche Welt zu führen.

Erst vor wenigen Tagen ging ein Video viral, das einen Monitor zeigte, auf dem bis zu 50 Instanzen eines chinesischen KI-Agenten liefen. Viele markierten Elon Musks Grok in dem Video und forderten eine Erklärung.

Laut Grok scheint jede Instanz ein anderes Konto zu verwalten, wobei wahrscheinlich Beiträge, Kommentare oder Interaktionen automatisiert werden

Die KI fügte hinzu, dass die Konfiguration „auf eine koordinierte Bemühung hindeutet, Online-Narrative zu manipulieren, möglicherweise zu Propaganda- oder Einflussoperationen. Dies ist besorgniserregend, da diese Bots Fehlinformationen verbreiten, spaltende Inhalte verstärken oder die öffentliche Meinung massiv beeinflussen und damit den demokratischen Diskurs gefährden können.“

Auch wenn es wie eine abwegige Theorie klingen mag, erklärte , dass Chinas bisherige Nutzung von KI für verdeckte Social-Media-Operationen dies zu einem realen Risiko macht. Die KI ist nicht mehr weit entfernt.

Das Bild zeigt einen Monitor, auf dem 50 Instanzen eines chinesischen KI-Agenten laufen, zumeist Social-Media-Bots. Jede Instanz scheint ein anderes Konto zu verwalten und automatisiert vermutlich Beiträge, Kommentare oder Interaktionen. Diese Konfiguration deutet auf ein koordiniertes Vorgehen zur Manipulation von Online-Narrativen hin…

– Grok (@grok) 9. März 2025

Im April 2024 beschuldigte ein Bericht von Microsoft Threat Intelligence Chinas Einflussoperationen unverblümt, künstliche Intelligenz einzusetzen, um Desinformation zu verbreiten und weltweit Zwietracht zu säen.

Der neueste Bericht des Microsoft Threat Analysis Center weist darauf hin, dass China gefälschte Social-Media-Konten nutzt, um US-Wähler zu den Themen zu befragen, die sie am meisten spalten. Ziel ist es, Spaltung zu säen und möglicherweise das Ergebnis der US-dentzu seinen Gunsten zu beeinflussen. https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) 5. April 2024

Zu den im Bericht hervorgehobenen Vorgängen gehörte „ein deutlicher Anstieg an Inhalten mit taiwanesischen Politikern im Vorfeld derdentund Parlamentswahlen am 13. Januar“

Dazu gehörte eine KI-generierte Audioaufnahme, die von einer mit der Kommunistischen Partei Chinas (KPCh) verbundenen Gruppe namens Storm-1376 oder „Spamouflage“ verbreitet wurde und den Eindruck erweckte, Foxconn-Eigentümer Terry Gou, der kurzzeitig eine unabhängigedent geführt hattedenthabe einen anderen Kandidaten unterstützt, was in Wahrheit nicht der Fall war.

Microsoft hat außerdem die Verbreitung von KI-generierten Nachrichtensprechern sowie von KI-generierten Memes aufgezeichnet, die dazu dienten, das Publikum irrezuführen und die Wahlen in Taiwan zu beeinflussen.

„Dies war das erste Mal, dass Microsoft Threat Intelligence beobachtet hat, wie ein staatlicher Akteur KI-Inhalte einsetzte, um eine ausländische Wahl zu beeinflussen“, heißt es in dem Bericht.

Darin wurde auch davor gewarnt, dass „wenn die Bevölkerung in Indien, Südkorea und den Vereinigten Staaten zu den Wahlen geht, wir wahrscheinlich erleben werden, dass chinesische Cyber- und Einflussakteure und in gewissem Maße auch nordkoreanische Cyberakteure daran arbeiten, diese Wahlen ins Visier zu nehmen.“

Es besteht zwar kaum ein Zweifel daran, dass Chinas Einflussoperationen mit den Fortschritten im Bereich der KI immer ausgefeilter geworden sind, doch Microsoft merkte an, dass es nur sehr wenige Beweise dafür gebe, dass sie erfolgreich die öffentliche Meinung beeinflusst hätten.

Das ist natürlich kein Grund zur Entwarnung, denn obwohl Microsoft einräumte , dass die Auswirkungen der Inhalte gering seien, äußerte das Unternehmen Besorgnis für die Zukunft und wies darauf hin, dass Chinas zunehmende Experimente mit der Erweiterung von Memes, Videos und Audioinhalten diese im Laufe der Zeit effektiver bei der Verbreitung von Zwietracht machen könnten.