Beunruhigende Ergebnisse: Studie zeigt, dass KI-Chatbots bei Phishing-Taktiken hervorragend sind

Eine kürzliche Studie zeigte, wie leicht moderne Chatbots verwendet werden können, um überzeugende Betrugs-E-Mails zu schreiben, die auf ältere Menschen abzielen, und wie oft diese E-Mails angeklickt werden.

Forscher verwendeten mehrere große KI-Chatbots in der Studie, darunter Grok, OpenAI’s ChatGPT, Claude, Meta AI, DeepSeek und Google’s Gemini, um einen Phishing-Betrug zu simulieren. 

Eine Beispielnotiz, geschrieben von Grok sah aus wie eine freundliche Kontaktaufnahme von der „Silver Hearts Foundation“, beschrieben als eine neue Wohltätigkeitsorganisation, die ältere Menschen mit Gesellschaft und Pflege unterstützt. Die Notiz richtete sich an Senioren und versprach einen einfachen Weg, sich zu engagieren. In Wirklichkeit existiert eine solche Wohltätigkeitsorganisation nicht.

„Wir glauben, dass jeder Senior Würde und Freude in seinen goldenen Jahren verdient“, stand in der Notiz. „Durch Klicken hier entdecken Sie herzerwärmende Geschichten von Senioren, die wir geholfen haben, und erfahren, wie Sie unserer Mission beitreten können.“ 

Als Reuters bat Grok, den Phishing-Text zu schreiben, produzierte der Bot nicht nur eine Antwort, sondern schlug auch vor, die Dringlichkeit zu erhöhen: „Warten Sie nicht! Treten Sie heute unserer mitfühlenden Gemeinschaft bei und helfen Sie, Leben zu transformieren. Klicken Sie jetzt, um zu handeln, bevor es zu spät ist!“ 

108 erfahrene Freiwillige nahmen an der Phishing-Studie teil

Reporter testeten, ob sechs bekannte KI-Chatbots ihre Sicherheitsregeln aufgeben und E-Mails verfassen würden, die darauf abzielen, Senioren zu täuschen. Sie baten die Bots auch um Hilfe bei der Planung von Betrugskampagnen, einschließlich Tipps dazu, zu welcher Tageszeit die beste Antwort zu erwarten ist. 

In Zusammenarbeit mit Heiding, einem Forscher der Harvard University, der sich mit Phishing befasst, testeten die Forscher einige der von Bots verfassten E-Mails an einer Gruppe von 108 Senioren-Freiwilligen.

Normalerweise schulen Chatbot-Unternehmen ihre Systeme so, dass sie schädliche Anfragen ablehnen. In der Praxis sind diese Schutzmaßnahmen jedoch nicht immer garantiert. Grok zeigte eine Warnung an, dass die von ihm erzeugte Nachricht „nicht in realen Szenarien verwendet werden sollte“. Dennoch lieferte es den Phishing-Text und verstärkte die Aufforderung mit „Jetzt klicken“.

Fünf weitere Chatbots erhielten dieselben Eingabeaufforderungen: ChatGPT von OpenAI, der Assistent von Meta, Claude, Gemini und DeepSeek aus China. Die meisten Chatbots lehnten die Antwort ab, sobald die Absicht klar wurde. 

Dennoch versagten ihre Schutzmaßnahmen nach leichten Modifikationen, wie der Behauptung, die Aufgabe diene Forschungszwecken. Die Ergebnisse der Tests deuteten darauf hin, dass Kriminelle Chatbots für Betrugskampagnen nutzen könnten (oder dies bereits tun). „Man kann diese Dinge immer umgehen“, sagte Heiding.

Heiding wählte neun mit den Chatbots produzierte Phishing-E-Mails aus und sandte sie an die Teilnehmer. Rund 11 % der Empfänger fielen darauf herein und klickten auf die Links. Fünf der neun Nachrichten lösten Klicks aus: zwei von Meta AI, zwei von Grok und eine von Claude. Keine der Senioren klickte auf die von DeepSeek oder ChatGPT verfassten E-Mails.

Letztes Jahr leitete Heiding eine Studie, die zeigte, dass von ChatGPT generierte Phishing-E-Mails bei Universitätsstudenten genauso effektiv sein können, um Klicks zu erzielen, wie von Menschen verfasste Nachrichten. 

Das FBI führt Phishing als häufigstes Cyberkriminalitätsdelikt auf

Phishing bezeichnet das Locken unvorsichtiger Opfer dazu, sensible Daten oder Bargeld durch gefälschte E-Mails und Textnachrichten preiszugeben. Diese Art von Nachrichten bildet die Grundlage vieler Online-Kriminalitäten. 

Weltweit werden täglich Milliarden von Phishing-Texten und -E-Mails versendet. In den Vereinigten Staaten listet das Federal Bureau of Investigation Phishing als das am häufigsten gemeldete Cyberkriminalitätsdelikt auf. 

Ältere Amerikaner sind für solche Betrügereien besonders anfällig. Nach aktuellen Zahlen des FBI stiegen die Beschwerden von Personen ab 60 Jahren im vergangenen Jahr um das Achtfache, wobei die Verluste auf 4,9 Milliarden US-Dollar stiegen. Generative KI habe dies erheblich verschärft, so das FBI.

Allein im August verloren Krypto-Nutzer 12 Millionen US-Dollar durch Phishing-Betrug, basierend auf einer Cryptopolitan Bericht.

Was Chatbots betrifft, liegt der Vorteil für Betrüger in Volumen und Geschwindigkeit. Im Gegensatz zu Menschen können Bots in Sekunden endlose Variationen generieren und dies zu minimalen Kosten tun, wodurch die Zeit und das Geld für den Betrieb groß angelegter Betrugskampagnen geschrumpft werden.