Laut einem Bericht von OpenAI gelingt es Hackern staatlicher Stellen nicht, sich mit KI einen Vorteil zu verschaffen

Technologieunternehmen und Regierungsbeamte immer wieder davor, dass künstliche Intelligenz zu einer gefährlichen Waffe für ausländische Feinde werden könnte, doch neue Erkenntnisse zeichnen ein anderes Bild. Jüngste Berichte zeigen, dass staatlich geförderte Gruppen dieselben öffentlich zugänglichen Werkzeuge nutzen wie normale Internetnutzer und dabei oft genauso große Schwierigkeiten haben.

OpenAI hat kürzlich Details darüber veröffentlicht, wie regierungsnahe Gruppen versucht haben , ihre Plattformen zu nutzen.

Der bekannteste Fall ereignete sich im Rahmen einer chinesischen Einflusskampagne, die zufällig aufgedecktdent als ein chinesischer Strafverfolgungsbeamter ChatGPT wie ein persönliches Tagebuch nutzte. Der Beamte schrieb über eine Operation gegen chinesische Kritiker im Ausland. wurde

Laut OpenAI waren an der Kampagne Hunderte von Operatoren und Tausende von gefälschten Social-Media-Konten beteiligt .

Bei der Operation wurde versucht, sich als US-Einwanderungsbeamte auszugeben, um einendent einzuschüchtern, indem fälschlicherweise behauptet wurde, seine öffentlichen Äußerungen verstießen gegen amerikanisches Recht. In anderen Fällen verwendeten die Täter gefälschte Dokumente, die angeblich von einem Bezirksgericht stammten, um die Social-Media-Konten von Kritikern sperren zu lassen.

Gefälschte Todesanzeigen und gefälschte Dokumente Teil einer Schikanierungskampagne

Sie erstellten einen gefälschten Nachruf und Fotos von Grabsteinen, um falsche Gerüchte über den Tod eines Dissidenten zu verbreitendentDiese Gerüchte tauchten 2023 tatsächlich online auf , wie ein chinesischsprachiger Artikel von Voice of America bestätigte. Ben Nimmo, Leiter der Ermittlungen bei OpenAI, bezeichnete die Aktionals systematischeSchikane gegen Kritiker der Kommunistischen Partei Chinas über verschiedene Kanäle.

Die Nutzung von ChatGPT als Protokollierungstool entlarvte die Operation. ChatGPT diente dem Agenten als Tagebuch zur tracdes verdeckten Netzwerks, während andere Tools den Großteil der Inhalte generierten, die über soziale Medien verbreitet wurden . OpenAI sperrte den Nutzer nach Entdeckung der Aktivitäten.

Die Ermittler von OpenAI glichen die Beschreibungen des ChatGPT-Nutzers mit realen Online-Aktivitäten ab. Der Nutzer beschrieb, wie er den Tod eines chinesischendentvortäuschte, indem er einen gefälschten Nachruf und Fotos von Grabsteinen erstellte und online veröffentlichte.

In einem anderen Fall bat ein ChatGPT-Nutzer das System, einen Plan zu erstellen, um den Ruf der designierten japanischen Premierministerin Sanae Takaichi durch Anstachelung von Wut über amerikanische Zölle zu schädigen. ChatGPT lehnte ab. Doch Ende Oktober, nach Takaichis Amtsantritt, tauchten in einem beliebten Forum für japanische Grafiker Hashtags auf, die sie angriffen und sich über die Zölle beschwerten

Der OpenAI-Bericht behandelte auch mehrere Betrugsoperationen aus Kambodscha, bei denen die Plattform für Liebes- und Anlagebetrug genutzt wurde, sowie Einflusskampagnen mit Verbindungen zu Russland, die auf Argentinien und Afrika abzielten.

Ein Microsoft-Bericht zeigt ähnliche grundlegende Nutzungsmuster

Microsoft veröffentlichte gemeinsam mit OpenAI einen separaten Bericht, der untersucht, wie staatliche Akteure aus Russland, Nordkorea, Iran und China große Sprachmodelle zur Unterstützung von Cyberangriffen einsetzen. Beide Unternehmen unterbanden die Aktivitäten von fünf staatlich verbundenen Akteuren durch die Schließung ihrer Konten .

Laut dem Microsoft- Bericht wollten diese Akteure die Dienste hauptsächlich für einfache Aufgaben wie die Suche nach öffentlich zugänglichen Informationen, die Übersetzung von Inhalten, die Behebung von Programmierfehlern und die Ausführung einfacher Programmieraufgaben nutzen . Bislang wurden keine größeren oder neuen Angriffe mithilfe dieser Modelle entdeckt.

Diese Diskrepanz zwischen Angst und Realität entsteht im harten Wettbewerb zwischen Washington und Peking um die Kontrolle dieser Technologie. Ihre Rolle in militärischen und wirtschaftlichen Angelegenheiten hat sich zu einem Hauptstreitpunkt entwickelt .Das Pentagon teilte dem Unternehmen Anthropic, dasses bis Freitag Zeit habe, bestimmte Sicherheitsmerkmale aus seinem Modell zu entfernen, andernfalls drohe ihm der Verlust einestrac.

Microsoft erklärte, man arbeite an Grundsätzen, um die Risiken eines Missbrauchs dieser Tools durch staatliche Gruppen und kriminelle Organisationen zu minimieren . Zu diesen Grundsätzen gehören das Aufspüren und Unterbinden von Missbrauch , die Information anderer Dienstanbieter, die Zusammenarbeit mit anderen Gruppen und Transparenz.