Staatliche Hacker scheitern daran, einen Vorteil mit KI zu erlangen, OpenAI-Bericht zeigt

Technologieunternehmen und Regierungsbeamte die warnen davor, dass künstliche Intelligenz zu einer gefährlichen Waffe für ausländische Feinde wird, aber neue Beweise erzählen eine andere Geschichte. Aktuelle Berichte zeigen, dass staatsunterstützte Gruppen dieselben öffentlich verfügbaren Tools wie normale Internetnutzer verwenden und oft genauso große Schwierigkeiten haben.

OpenAI hat kürzlich Details darüber geteilt, wie regierungsnahe Gruppenversuchten, ihre Plattformen zu nutzen.

Der bemerkenswerteste Fall stammte aus einer chinesischen Einflusskampagne, dieversehentlich aufgedeckt wurde, als ein chinesischer Beamter der Strafverfolgung ChatGPT wie ein persönliches Tagebuch nutzte. Der Beamte schrieb über eine Operation, die sich gegen chinesische Kritiker im Ausland richtete.

Die Kampagne umfasste Hunderte von Operatoren und Tausende gefälschter Social-Media-Konten, so OpenAI.

Die Operation versuchte, US-Einwanderungsbeamte zu imitieren, um einen Dissidenten zu erschrecken, indem sie falsch behauptete, dessen öffentliche Aussagen verstießen gegen das amerikanische Gesetz. In anderen Fällen verwendeten die Operateure gefälschte Dokumente, die angeblich von einem Bezirksgericht stammten, um die Social-Media-Konten von Kritikern löschen zu lassen.

Falsche Nachrufe und gefälschte Dokumente Teil der Belästigungskampagne

Sie erstellten eine gefälschte Todesanzeige und Grabsteinfotos, um falsche Gerüchte über den Tod eines Dissidenten zu verbreiten. Diese Gerüchte tauchten tatsächlich online auf, bestätigte ein chinesischsprachiger Artikel von Voice of America aus 2023. Ben Nimmo, der die Untersuchungen bei OpenAI leitet,nannte dieAnstrengung industrialisierte Belästigung, die sich gegen Kritiker der Kommunistischen Partei Chinas durch mehrere Kanäle richtete.

Die Nutzung von ChatGPT als Dokumentationswerkzeug führte zur Enthüllung der Operation. ChatGPT diente dem Operativen als Tagebuch zur Verfolgung des geheimen Netzwerks, während andere Tools den Großteil der eigentlichen Inhalte generierten, die verbreitet wurden über soziale Medien. OpenAI sperrte den Nutzer, nachdem die Aktivität entdeckt wurde.

OpenAI-Ermittler passten Beschreibungen des ChatGPT-Nutzers mit realer Online-Aktivität ab. Der Nutzer beschrieb, den Tod eines chinesischen Dissidenten vorzutäuschen, indem er einen gefälschten Nachruf und Grabsteinfotos zum Posten online erstellte.

In einem anderen Fall bat der ChatGPT-Nutzer das System, einen Plan zur Schädigung des Rufs des kommenden japanischen Premierministers Sanae Takaichi zu erstellen, indem es Wut über amerikanische Zölle schürte. ChatGPT lehnte ab. Aber Ende Oktober, als Takaichi das Amt übernahm, tauchten auf einem beliebten Forum für japanische Grafikdesigner Hashtags auf, die sie angriffen und sich über Zölle beschwerten.

Der OpenAI-Bericht behandelte auch mehrere Betrugsoperationen aus Kambodscha, die die Plattform für Romance- und Anlagebetrug nutzten, sowie Einflusskampagnen, die mit Russland verbunden sind und Argentinien und Afrika zielten.

Microsoft-Bericht zeigt ähnliche grundlegende Nutzungsmuster

Microsoft veröffentlichte einen separaten Bericht gemeinsam mit OpenAI, der untersucht, wie staatliche Akteure aus Russland, Nordkorea, Iran und China große Sprachmodelle testen, um Cyberangriffsoperationen zu unterstützen. Beide Unternehmen unterbrachen die Bemühungen von fünf staatsnahen Akteuren, indem sie deren Konten schlossen.

Der Microsoft Bericht fand heraus, dass diese Akteure hauptsächlich Dienste für einfache Aufgaben nutzen wollten, wie das Suchen öffentlich verfügbarer Informationen, das Übersetzen von Inhalten, das Beheben von Codefehlern und das Ausführen grundlegender Programmieraufgaben. Bisher wurden keine größeren oder neuen Angriffe mit den Modellen gefunden.

Diese Lücke zwischen Angst und Realität tritt während harten Wettbewerb zwischen Washington und Peking um die Kontrolle dieser Technologie auf. Welche Rolle sie in militärischen und wirtschaftlichen Angelegenheiten spielt, ist zu einem großen Kampf geworden. Das Pentagon hat kürzlich einem anderen Unternehmen, Anthropi c, mitgeteilt, dass es bis Freitag Zeit hat, bestimmte Sicherheitsfunktionen aus seinem Modell zu entfernen, oder riskiert, einen Verteidigungsauftrag zu verlieren.

Microsoft sagte, es arbeite an Grundsätzen, um Risiken aus der schlechten Nutzung dieser Tools durch staatliche Gruppen und kriminelle Organisationen zu reduzieren. Diese Grundsätze umfassen das Finden und Stoppen schlechter Nutzer, das Informieren anderer Dienstleister, die Zusammenarbeit mit anderen Gruppen und Transparenz.