FBI warnt vor der Nutzung von Generative AI zur Imitation führender US-Beamter

Heute warnte die Abteilung des FBI in San Francisco die Öffentlichkeit, sich der zunehmend KI-generierten Stimmenscams bewusst zu sein. Cyberkriminelle nutzen Berichten zufolge KI-Tools für Phishing-Angriffe und Stimmklonungs-Betrug.

Das FBI warnte auf der RSA-Cybersecurity-Konferenz im Moscone Centre in San Francisco vor der Nutzung von Stimm-Deepfakes zur Zielerfassung von US-Beamten. Laut der Agentur zielt die Warnung darauf ab, Maßnahmen zur Minderung zu bieten, die der Öffentlichkeit helfen, Angriffe mit Stimm-Deepfakes zu erkennen und zu blockieren.

KI hilft Kriminellen bei der Durchführung von Cyberkriminalität

Böse Akteure haben hochrangige US-Beamte imitiert, um Einzelpersonen zu zielen, darunter viele aktuelle oder ehemalige Regierungsbeamte. A Erklärung vom FBI warnte die Öffentlichkeit, nicht davon auszugehen, dass Nachrichten, die behaupten, von einem hochrangigen US-Beamten zu stammen, authentisch sind. 

Seit April nutzen böswillige Akteure KI, um sich als hochrangige US-Beamte auszugeben, im Rahmen einer Kampagne gegen aktuelle oder ehemalige hochrangige Beamte der US-Regierung. FBI-Erklärung: „Wenn Sie eine Nachricht erhalten, die angeblich von einem hochrangigen US-Beamten stammt, gehen Sie nicht davon aus, dass sie authentisch ist.“ pic.twitter.com/qNfqDeWopg

— Andrew Curran (@AndrewCurran_) Mai 15, 2025

Das FBI klärte auf, dass böswillige Akteure Smishing- und Vishing-Techniken nutzten, um Nachrichten und eine KI-generierte Stimme zu senden. Die Imitatoren, getarnt als hochrangige US-Beamte, versuchten, eine gute Beziehung zu den Opfern aufzubauen, bevor sie wertvolle persönliche Informationen erlangten. Laut der Erklärung griffen die böswilligen Akteure über Social Engineering auf die Konten von US-Beamten zu. Die Hacker sendeten bösartige Links aus, die als Links getarnt waren, die Gespräche auf eine andere Messaging-Plattform verlagern sollten. 

Die heutige Pressemitteilung folgt einer Private Industry Notification (PIN) des FBI aus dem Jahr 2021 PIN die vor Deepfakes, die weit verbreitet in ausländischer Einflussnahme und Cyberkriminalität sind, warnte. Das FBI ging davon aus, dass die jüngsten Angriffe zunehmend ausgefeilter sind und daher eine echte Bedrohung für Amerikaner darstellen.

FBI bietet einen Plan zur Bekämpfung verbesserter Audio-Deepfakes 

Das FBI drängte die Öffentlichkeit und Unternehmen, wachsam zu bleiben und das Risiko von KI-Phishing und Video- oder Stimmkloning zu reduzieren. Die Agentur wies die Öffentlichkeit darauf hin, auf dringende Nachrichten zu achten, die um Geld oder Zugangsdaten bitten. Sie fügte hinzu, dass Unternehmen mehrere technische Lösungen erkunden sollten, um die Anzahl der Phishing- und Social-Engineering-E-Mails zu reduzieren, die auf Mitarbeiter abzielen.

„Da sich die Technologie weiterentwickelt, entwickeln sich auch die Taktiken von Cyberkriminellen weiter. Angreifer nutzen KI, um hochgradig überzeugende Sprach- oder Videobotschaften und E-Mails zu erstellen, um Betrugsprogramme sowohl gegen Einzelpersonen als auch gegen Unternehmen zu ermöglichen. Diese ausgefeilten Taktiken können zu verheerenden finanziellen Verlusten, Imageschäden und der Kompromittierung sensibler Daten führen.“  

– Robert Tripp, FBI Special Agent in Charge 

Die FBI drängte Unternehmen, Technologie mit regelmäßiger Schulung der Mitarbeiter über die Gefahren von Phishing- und Social-Engineering-Angriffen zu kombinieren. Die Agentur fügte hinzu, dass die Verwendung von Multifaktor-Authentifizierungslösungen zusätzliche Sicherheitsebenen hinzufügt und es Cyberkriminellen erschwert, unbefugten Zugriff auf Konten und Systeme zu erlangen.  

Im April 2024 gab das US-Gesundheitsministerium bekannt, dass Cyberkriminelle IT-Helpdesk-Mitarbeiter im Social Engineering mit KI-generierter Stimmimitation angriffen, um Ziele zu täuschen und persönliche Identifikationsinformationen zu erhalten.

LastPass-CEO Karim Toubba war ebenfalls Opfer derselben Angriffe. Er gab im vergangenen Jahr bekannt, dass einer seiner Mitarbeiter in einem Voice-Phishing-Angriff ins Visier genommen wurde. Europol warnte 2022, dass Cybergruppen bald Deepfakes nutzen würden, um CEOs zu zielen, nicht einvernehmliche pornografische Materialien zu erstellen und Beweismittel zu manipulieren. 

Ein Bericht von Deloitte vorhergesagt der besagt, dass die Betrugsverluste in den USA bis 2027 40 Milliarden US-Dollar erreichen könnten, da generative KI Betrügern hilft. Deloitte enthüllte, dass die Betrugsverluste von den im Jahr 2023 vorhergesagten 12,3 Milliarden US-Dollar stiegen. 

Eine Umfrage von Accenture unter 600 Cybersicherheits-Executives in Banken ergab auch, dass 80 % der Befragten der Ansicht waren, dass generative KI die Fähigkeiten von Hackern schneller verbessert hat, als Banken damit umgehen können.