KI-Deepfakes des britischen Premierministers und der Royals werden in Facebook-Krypto-Betrug genutzt  

KI-generierte Videos des britischen Premierministers Keir Starmer und Prinz William werden verwendet, um Krypto-Betrug auf Facebook und Instagram zu bewerben. Laut der Forschungsfirma Fenimore Harper wurden seit der britischen Wahl, die Starmer Anfang Juli an die Macht brachte, mehr als 250 Anzeigen für eine Plattform namens „Immediate Edge“ geschaltet.

In einem neuen Bericht sagte Fenimore Harper, dass Immediate Edge die Deepfake-Werbeanzeigen aggressiv an unauffällige Nutzer in sozialen Medien ausgespielt hat. Die Plattform habe mit ihren Anzeigen 890.000 Menschen auf Facebook und Instagram erreicht. Es wurde berichtet, dass Immediate Edge bisher 21.000 £ (27.000 $) für diese Anzeigen ausgegeben hat. Die Forschungsfirma fand die Anzeigen unter Verwendung des großen Sprachmodells von Meta, Llama 3.1.

Der Krypto-Betrug ermutigt Zuschauer, Geld und persönliche Informationen zu senden  

Sowohl die Deepfake-Videos von Starmer als auch die von Prinz William versprachen den Menschen eine „lebensverändernde Gelegenheit“, die nur durch Eingabe persönlicher Daten wie Name, Telefonnummer und E-Mail zugänglich war. Die Kampagne bewarb Immediate Edge als eine neue Plattform, die vom britischen Premierminister und dem Prince of Wales unterstützt wird, auf der man bis zu 1.000 £ pro Tag verdienen kann.

Wenn Nutzer auf den beworbenen Link klicken, werden sie auf eine Landing Page weitergeleitet, auf der sie gebeten werden, ihre persönlichen Informationen preiszugeben. Laut dem Bericht würden die Krypto-Betrüger dann Kontakt zu den Nutzern aufnehmen und sie ermutigen, Geld auf eine gefälschte Online-Handelsplattform einzuzahlen. Betrüger zeigen typischerweise ein gefälschtes Portfolio mit Handelsgewinnen, um die Leute zu weiteren Einzahlungen zu verleiten.

Die Immediate Edge-Betrüger verschwanden jedes Mal, wenn ein Nutzer eine Auszahlung seiner Gelder beantragte, wie Fenimore Harper detailliert darlegte.

In einem Beispiel wird Starmers Deepfake mit den folgenden Worten zitiert:

“Dein Leben wird sich bald ändern. Ich bin Keir Starmer, Premierminister des Vereinigten Königreichs und Führer der Labour Party. Ich habe auf dich gewartet. Heute ist dein Glückstag. Ich weiß nicht, wie du auf diese Seite gekommen bist, aber du wirst es nicht bereuen.“

Die KI-generierte Anzeige behauptet, dass 45 Personen ausgewählt wurden, um „lebensveränderndes Geld“ durch ein mysteriöses Projekt zu verdienen. Sie verspricht tägliche Einnahmen von 1.000 £, was 7.000 £ pro Woche oder 27.000 £ pro Monat entspricht, ohne dass Vorkenntnisse oder besondere Fähigkeiten erforderlich sind. Sie behauptet auch, dass „dies kein Betrug ist“ und Starmer selbst nichts von den Zuschauern benötige.

Einige der Anzeigen nutzten Dritte, zitierten jedoch, dass es eine Initiative des britischen Premierministers war.

In einer Anzeige unterstützt ein Deepfake von Prinz William die Plattform und drückt die Unterstützung der königlichen Familie aus. Es heißt: „Guten Tag, geehrte Bürger des Vereinigten Königreichs. Ich freue mich, bekannt zu geben, dass ich, Prinz William, und die gesamte königliche Familie die Initiative von Premierminister Keir Starmer und seine neue Plattform voll unterstützen.“

Laut dem Bericht von Fenimore Harper behauptet die Anzeige, dass die Initiative notwendig ist und dazu beitragen wird, das Leben der Bürger zu verbessern, und ermutigt die Zuschauer, sich anzuschließen, um eine bessere Zukunft für das Land zu schaffen.

Facebook und Instagram kämpfen weiterhin mit Krypto-Betrugsanzeigen 

Viele der in der Krypto-Welt verwendeten Links führen jetzt ins Leere, sagte der Bericht, obwohl einige der Deepfake-Anzeigen noch immer laufen. Die Anzeigen waren dem Anti-Spam-Radar auf Facebook und Instagram entgangen. Auch Google hat den Krypto-Betrug nicht gemeldet. Google-Suchen nach Immediate Edge sagten den Nutzern, dass die Plattform eine legitime Handelssoftware ist.

Marcus Beard, Gründer von Fenimore Harper, sagt, dass die Desinformation weitergehen wird, es sei denn, strenge Maßnahmen werden ergriffen.

„Diese Kampagnen können nun bekannte Persönlichkeiten mit Leichtigkeit imitieren und Desinformation in einem beispiellosen Tempo im Internet verbreiten“, sagte er, wie berichtet von der britischen Independent-Zeitung. „Sie stellen ein enormes Risiko für Einzelpersonen, öffentliche Persönlichkeiten, Unternehmen und unsere Demokratie dar.“

Sowohl Meta als auch Google gaben an, dass sie Fehlinformationen und die Nutzung von KI-Deepfakes auf ihren Plattformen nicht dulden. Meta habe seitdem die meisten illegalen Anzeigen, die Starmer und Prinz William betreffen, entfernt, sagte ein Sprecher. Google erklärte, dass seine „Spam-Bekämpfungssysteme dazu beitragen, Google Search zu 99 % spamfrei zu halten, trotz sich ständig entwickelnder Versuche von Spammern.“