OpenAI schaltet die ChatGPT-Konten der iranischen Gruppe wegen ihrer Kampagne zur Beeinflussung der US-Wahlen ab

OpenAI hat entschieden gehandelt und mehrere ChatGPT-Konten gesperrt, die mit einer iranischen Einflussoperation in Verbindung stehen. Wie das Unternehmen in einem Blogbeitrag erklärte, veröffentlichten diese Konten KI-generierte Inhalte zur USdent. Die Operation, die Artikel und Social-Media-Beiträge umfasste, schien von begrenztem Umfang gewesen zu sein. 

Dies ist nicht das erste Mal, dass staatsnahe Akteure versucht haben, OpenAIs ChatGPT zu missbrauchen. Im Mai verhinderte das Unternehmen fünf Versuche, die Öffentlichkeit durch von KI-Bots verbreitete gefälschte Medienartikel zu beeinflussen. Diese Bemühungen sind Teil eines umfassenderen Musters, bei dem staatliche Akteure neue Technologien nutzen, um politische Prozesse zu steuern. 

OpenAI reagiert schnell, um neuen Bedrohungen entgegenzuwirken

Früher nutzten solche Gruppen Facebook und Twitter als ihre wichtigsten Social-Media-Plattformen. Mittlerweile wird jedoch generative KI eingesetzt, um Social-Media-Plattformen mit Falschinformationen zu überfluten. reagiert , ähnlich dem „Hau den Maulwurf“-Ansatz, den wir von Social-Media-Plattformen kennen. Sobald die mit solchen Aktivitäten in Verbindung stehenden Konten auftauchen, werden sie umgehend gesperrt. Dies ist besonders wichtig, da die US-Präsidentschaftswahlen 2024dentnäher rücken. 

Die Analyse der jüngsten Konten durch OpenAI basiert auf einem Bericht von Microsoft Threat Intelligence, der letzte Woche veröffentlicht wurde. Der Bericht nennt die Gruppe, die diese Operationen unterstützt, als Storm-2035, die seit 2020 in die US-Wahlen verwickelt ist. 

Storm-2035 ist Berichten zufolge ein iranisches Netzwerk mit zahlreichen Domains, die seriösen Nachrichtenwebseiten nachempfunden sind. Diese Seiten zielen auf amerikanische Wähler ab und präsentieren polarisierende Inhalte zudent, den Rechten von Homosexuellen und dem Israel-Hamas-Konflikt. 

ChatGPT generiert polarisierende Inhalte zu verschiedenen politischen Themen

Wie bei ähnlichen Aktionen verfolgt Storm-2035 nicht das Ziel, eine bestimmte politische Position zu unterstützen, sondern Kontroversen in der Bevölkerung auszulösen. Laut OpenAI war die Gruppe mit fünf Websites verbunden, die sich als liberale und konservative Nachrichtenseiten ausgaben. 

Diese Seiten hatten einprägsame Domainnamen wie „evenpolitics.com“ und nutzten ChatGPT, um Artikel bestimmter Länge zu verfassen. In einem dieser Artikel wurde behauptet, dass das soziale Netzwerk von Elon Musk (X) die Tweets des ehemaligen US-dentDonald Trump blockierte. 

OpenAI hat ein Dutzend X-Konten und ein Instagram-Kontodent, die mit Storm-2035 in Verbindung stehen. Diese Konten nutzten ChatGPT, um neue politische Aussagen zu generieren und diese anschließend auf den genannten Social-Media-Kanälen zu veröffentlichen. Beispielsweise wurde in einem Tweet fälschlicherweise der Klimawandel mit „steigenden Einwanderungskosten“ in Verbindung gebracht und mit dem Hashtag #DumpKamala in Anspielung aufdent Kamala Harris versehen.