KI-gestützte Deepfakes des britischen Premierministers und von Mitgliedern der Königsfamilie wurden bei Krypto-Betrügereien auf Facebook missbraucht  

KI-generierte Videos des britischen Premierministers Kerr Starmer und Prinz William werden auf Facebook und Instagram für Kryptobetrugswerbung eingesetzt. Laut dem Marktforschungsunternehmen Fenimore Harper wurden seit der britischen Wahl, die Starmer Anfang Juli an die Macht brachte, mehr als 250 Anzeigen für die Plattform „Immediate Edge“ geschaltet.

In einem neuen Berichtenthüllte Fenimore Harper, dass Immediate Edge Deepfake-Anzeigen aggressiv an ahnungslose Nutzer in sozialen Medien ausgespielt hat. Laut Bericht erreichte die Anzeige der Plattform 890.000 Personen auf Facebook und Instagram. Immediate Edge gab bisher 21.000 £ (27.000 $) für diese Anzeigen aus. Das Marktforschungsunternehmen identifizierte die Anzeigen mithilfe des großen Sprachmodells Llama 3.1 von Meta.

Der Kryptobetrug verleitet Zuschauer dazu, Geld und persönliche Daten zu senden  

Sowohl Starmers als auch Prinz Williams Deepfake-Videos versprachen den Zuschauern eine „lebensverändernde Chance“, die nur durch die Angabe persönlicher Daten wie Name, Telefonnummer und E-Mail-Adresse zugänglich sein sollte. Die Kampagne bewarb Immediate Edge als neue Plattform, die vom britischen Premierminister und dem Prinzen von Wales unterstützt werde und auf der man bis zu 1.000 Pfund pro Tag verdienen könne.

Wenn Nutzer auf den beworbenen Link klicken, gelangen sie auf eine Landingpage, auf der sie zur Angabe ihrer persönlichen Daten aufgefordert werden. Laut Bericht kontaktieren die Kryptobetrüger die Nutzer anschließend und versuchen, sie zur Einzahlung von Geld auf eine gefälschte Online-Handelsplattform zu bewegen. Die Betrüger präsentieren typischerweise ein gefälschtes Portfolio mit angeblichen Handelsgewinnen, um die Nutzer zu weiteren Einzahlungen zu verleiten.

Die Betrüger von Immediate Edge verschwanden jedes Mal, wenn ein Benutzer eine Auszahlung seiner Gelder beantragte, berichtete Fenimore Harper.

In einem Beispiel wird Starmers Deepfake mit folgenden Worten zitiert:

“Ihr Leben wird sich bald verändern. Ich bin Keir Starmer, Premierminister des Vereinigten Königreichs und Vorsitzender der Labour-Partei. Ich habe auf Sie gewartet. Heute ist Ihr Glückstag. Ich weiß nicht, wie Sie diese Seite gefunden haben, aber Sie werden es nicht bereuen

Die KI-generierte Werbung behauptet, 45 Personen seien ausgewählt worden, um durch ein mysteriöses Projekt „lebensveränderndes Geld“ zu verdienen. Versprochen werden tägliche Einnahmen von 1.000 £, was 7.000 £ pro Woche oder 27.000 £ pro Monat entspricht – ganz ohne Vorkenntnisse oder besondere Fähigkeiten. Außerdem wird versichert, dass es sich „nicht um Betrug“ handle und Starmer selbst nichts von den Zuschauern verlangt habe.

In einigen der Werbeanzeigen wurden Drittanbieter eingesetzt, obwohl behauptet wurde, es handele sich um eine Initiative des britischen Premierministers.

In einer Anzeige wirbt ein Deepfake von Prinz William für die Plattform und drückt die Unterstützung der königlichen Familie aus. Es heißt: „Guten Tag, verehrte Bürgerinnen und Bürger des Vereinigten Königreichs. Ich freue mich, Ihnen mitteilen zu können, dass ich, Prinz William, und die gesamte königliche Familie die Initiative von Premierminister Keir Starmer und seine neue Plattform voll und ganz unterstützen.“

Laut einem Bericht von Fenimore Harper behauptet die Anzeige, dass die Initiative notwendig sei und zur Verbesserung des Lebens der Bürger beitragen werde. Die Zuschauer werden aufgefordert, sich anzuschließen und eine bessere Zukunft für das Land zu gestalten.

Facebook und Instagram haben weiterhin mit Kryptobetrugsanzeigen zu kämpfen 

Laut dem Bericht führen viele der in der Krypto-Kampagne verwendeten Links ins Leere, obwohl einige der Deepfake-Anzeigen weiterhin geschaltet werden. Die Anzeigen waren sowohl auf Facebook als auch auf Instagram von den Spamfiltern übersehen worden. Auch Google erkannte den Krypto-Betrug nicht. Google-Suchanfragen zu Immediate Edge zeigten Nutzern an, dass es sich bei der Plattform um eine legitime Handelssoftware handelt.

Marcus Beard, der Gründer von Fenimore Harper, sagt, dass die Desinformation weitergehen wird, wenn keine strengen Maßnahmen ergriffen werden.

„Diese Kampagnen können sich mittlerweile mühelos als bekannte Persönlichkeiten ausgeben und Desinformationen in einem noch nie dagewesenen Ausmaß online verbreitendent, sagte er laut der britischen Zeitung „Independent“dent „Sie stellen eine enorme Gefahr für Einzelpersonen, Persönlichkeiten des öffentlichen Lebens, Unternehmen und unsere Demokratie dar.“

Sowohl Meta als auch Google erklärten, dass sie Falschinformationen und den Einsatz von KI-gestützten Deepfakes auf ihren Plattformen nicht dulden. Meta habe inzwischen die meisten illegalen Anzeigen mit Bezug zu Starmer und Prinz William entfernt, so ein Sprecher. Google erklärte, dass seine „Spam-Bekämpfungssysteme dazu beitragen, Google Search 99 trotz ständiger Weiterentwicklungen durch Spammer spamfrei zu halten“