Meta warnt vor russischen KI-Bedrohungen, da die US-Wahl näher rückt

Meta sagt in einem jüngsten Sicherheitsbericht, dass Russland generative künstliche Intelligenz (KI) für Online-Täuschungskampagnen über die US-Wahlen einsetzt. Der Tech-Riese behauptet, die meisten Bemühungen seien erfolglos gewesen, da er die Kampagnen vereitelt habe.

Laut Meta haben die generativen KI-Strategien minimale Produktivität und Gewinne gebracht. Dies liegt daran, dass das Unternehmen koordiniertes unauthentisches Verhalten (CIB) auf seiner Plattform erkennen und eindämmen konnte.

Meta identifiziert Russland als primäre Quelle politischer Einflusskampagnen

Der Meta Adversarial Threat Report für Q2 identifizierte, dass die meisten CIB-Kampagnen auf seinen Plattformen, insbesondere Facebook und Instagram, aus Russland stammten. Seit 2017 ist das Land für 39 verdeckte Operationen verantwortlich, während Iran und China an zweiter und dritter Stelle mit 30 bzw. 11 Operationen folgen.

Diese russischen Kampagnen stützten sich stark auf gefälschte Konten und Seiten, wobei eine Kernstrategie darin bestand, mehrere Konten zu erwerben. In Bezug auf den Inhalt schienen sie alle dieselbe Botschaft zu verbreiten, seit Russland 2022 die Ukraine überfallen hat – die Rechtfertigung der Invasion.

Meta hat nun vorhergesagt, dass in den nächsten Monaten mehr Kampagnen, die US-Nutzer zielen, auftauchen werden, da die Präsidentschaftswahl im November näher rückt. Die Kampagnen werden wahrscheinlich anti-ukrainische Botschaften verbreiten und Kandidaten angreifen, die die Ukraine unterstützen.

Es heißt:

„Zwischen jetzt und den US-Wahlen im November erwarten wir, dass russische Operationen unterstützende Kommentare über Kandidaten fördern, die sich gegen Hilfe für die Ukraine aussprechen, und diejenigen kritisieren, die sich für die Unterstützung ihrer Verteidigung einsetzen.“

Trotz der anhaltenden Bedrohung und des intensiven Einsatzes von KI in diesen täuschenden Kampagnen behauptete Meta, eine hochwirksame Methode zur Erkennung und Verhinderung solcher schädlicher Aktivitäten entwickelt zu haben. Das Unternehmen konzentriert sich auf das Verhaltensmuster des Kontos anstatt auf den Inhalt des Posts, was es ermöglicht, automatisierte Aktionen besser zu erkennen.

Russlands Geschichte der Wahlmanipulation

Metas Proaktivität bei der Begrenzung schädlicher politischer Einflusskampagnen ist nicht überraschend. Das Unternehmen wurde von Regulierungsbehörden dafür kritisiert, solche Kampagnen auf seiner Plattform nicht verhindert oder entfernt zu haben. Im Mai dieses Jahres eröffnete die Europäische Union eine Untersuchung gegen Meta wegen Nichtbeachtung ihrer Regeln zur Wahlintegrität.

Inzwischen hat Russland eine Geschichte der Sponsoring von Einflusskampagnen gegen rivalisierende Weltmächte, insbesondere während deren Wahlen. Das Land wurde beschuldigt, das Ergebnis der US-Wahlen 2016 durch Kampagnen auf allen Social-Media-Plattformen, einschließlich Apps wie Tumblr und PayPal, beeinflusst zu haben.

Eine Studie, die Millionen von Social-Media-Posts auf allen Plattformen, einschließlich Google, analysierte, zeigte, dass die russische Regierung durch mehrere Operative Falschinformationen über den US-Wahlprozess verbreitete, um ihn zu untergraben. Sie identifizierte eine Gruppe, die Internet Research Agency (IRA), die von vielen als russische Troll-Farm betrachtet wird, als führend in der Kampagne.

Mit dem Aufkommen generativer KI-Technologien, die die Erstellung aller Arten von Inhalten erleichtern, gibt es Bedenken, dass ihr Einsatz für Einflusskampagnen in dieser Wahl sehr hoch sein wird. Bisher haben mehrere Sicherheitsexperten einige Fälle ihres Einsatzes identifiziert. Allerdings haben sich sogar politische Kandidaten gegenseitig des KI-Einsatzes beschuldigt.