OpenAI sperrt ChatGPT-Kontakte einer iranischen Gruppe wegen Einflussnahme-Kampagne auf die US-Wahl

OpenAI hat entscheidende Maßnahmen ergriffen, indem es einen Cluster von ChatGPT-Konten sperrte, die mit einer iranischen Einflussnahme-Operation verbunden sind. Diese Konten haben KI-generierte Materialien zur US-Präsidentschaftswahl veröffentlicht, wie das Unternehmen in einem Blogbeitrag erklärte. Die Operation, die Artikel und Social-Media-Posts umfasste, schien ein begrenztes Ausmaß zu haben. 

Dies ist nicht das erste Mal, dass staatsnahe Akteure versucht haben, ChatGPT von OpenAI zu missbrauchen. Im Mai verhinderte das Unternehmen fünf verschiedene Versuche, die Öffentlichkeit mit gefälschten Medienartikeln zu beeinflussen, die von KI-Bots gepostet wurden. Diese Bemühungen sind Teil eines breiteren Musters, bei dem staatliche Akteure neue Technologien nutzen, um politische Prozesse zu beeinflussen. 

OpenAI reagiert schnell, um aufkommende Bedrohungen zu bekämpfen

Früher nutzten solche Gruppen Facebook und Twitter als ihre wichtigsten sozialen Medienplattformen. Generative KI wird jedoch jetzt eingesetzt, um soziale Medienplattformen mit falschen Informationen zu überfluten. Als Reaktion auf diese Bedrohungen hat OpenAI schnell reagiert, ähnlich wie der „Whack-a-Mole“-Ansatz, den wir auf sozialen Medienplattformen gesehen haben. Wenn Konten, die mit solchen Aktivitäten verbunden sind, ans Licht kommen, werden sie sofort blockiert. Dies ist wichtig, da die US-Präsidentschaftswahl 2024 langsam ins Blickfeld rückt.

OpenAIs Analyse der jüngsten Gruppe von Konten wird durch einen Bericht von Microsoft Threat Intelligence unterstützt, der letzte Woche veröffentlicht wurde. Der Bericht nannte die Gruppe, die diese Operationen sponsert, als Storm-2035-Gruppe, die seit 2020 in die US-Wahlen eingegriffen hat. 

Storm-2035 wird als ein iranisches Netzwerk mit zahlreichen Domains gemeldet, die echte Nachrichten-Websites nachahmen sollen. Diese Seiten richten sich an die US-Wähler und präsentieren polarisierende Inhalte zu Präsidentschaftskandidaten, Schwulenrechten und dem Israel-Hamas-Konflikt. 

ChatGPT erzeugt polarisierende Inhalte zu verschiedenen politischen Themen

Wie bei anderen ähnlichen Operationen ist das Ziel von Storm-2035 nicht, eine bestimmte Politik zu unterstützen, sondern Kontroversen in der Bevölkerung zu schüren. Laut OpenAI war die Gruppe mit fünf Websites verbunden, die sich sowohl als liberale als auch als konservative Nachrichtenquellen ausgaben. 

Diese Seiten verfügten über gute Domain-Namen wie „evenpolitics.com“ und nutzten ChatGPT, um Artikel einer bestimmten Länge zu verfassen. Einer dieser Artikel behauptete, das von Elon Musk besessene Social-Media-Netzwerk X blockiere Tweets des ehemaligen US-Präsidenten Donald Trump. 

OpenAI hat ein Dutzend X-Konten und ein Instagram-Konto identifiziert, die mit Storm-2035 in Verbindung stehen. Diese Konten nutzten ChatGPT, um neue politische Statements zu generieren, und veröffentlichte diese auf diesen Social-Media-Kanälen. So wurde beispielsweise in einem Tweet fälschlicherweise der Klimawandel für „gestiegene Einwanderungskosten“ verantwortlich gemacht, während das Statement mit #DumpKamala getaggt wurde, in Bezug auf Vizepräsidentin Kamala Harris.