Beunruhigende Ergebnisse: Studie zeigt, dass KI-Chatbots bei Phishing-Taktiken hervorragend sind

Eine aktuelle Studie zeigte, wie einfach moderne Chatbots dazu genutzt werden können, überzeugende Betrugs-E-Mails zu schreiben, die sich an ältere Menschen richten, und wie oft diese E-Mails angeklickt werden.

Die Forscher nutzten in der Studie mehrere große KI-Chatbots, darunter Grok, ChatGPT von OpenAI, Claude, Meta AI, DeepSeek und Gemini von Google, um einen Phishing-Betrug zu simulieren. 

verfasster Musterbrief Grok wirkte wie eine freundliche Kontaktaufnahme der „Silver Hearts Foundation“, einer angeblich neuen Wohltätigkeitsorganisation, die ältere Menschen durch Begleitung und Pflege unterstützt. Der Brief richtete sich an Senioren und versprach eine einfache Möglichkeit zur Mitarbeit. Tatsächlich existiert eine solche Organisation jedoch nicht.

„Wir sind überzeugt, dass jeder Senior in seinen goldenen Jahren Würde und Freude verdient“, heißt es in der Mitteilung. „Klicken Sie hier, um herzerwärmende Geschichten von Senioren zu entdecken, denen wir geholfen haben, und erfahren Sie, wie auch Sie unsere Mission unterstützen können.“ 

Als Reuters Grok bat, den Phishing-Text zu verfassen, generierte der Bot nicht nur eine Antwort, sondern schlug auch vor, die Dringlichkeit zu erhöhen: „Warten Sie nicht! Werden Sie noch heute Teil unserer mitfühlenden Gemeinschaft und helfen Sie mit, Leben zu verändern. Klicken Sie jetzt, um zu handeln, bevor es zu spät ist!“ 

108 ältere Freiwillige nahmen an der Phishing-Studie teil

Reporter testeten, ob sechs bekannte KI-Chatbots ihre Sicherheitsregeln missachten und E-Mails verfassen würden, die Senioren täuschen sollen. Sie baten die Bots außerdem um Hilfe bei der Planung von Betrugskampagnen, unter anderem um Tipps, zu welcher Tageszeit die besten Ergebnisse erzielt werden könnten. 

In Zusammenarbeit mit Heiding, einem Forscher der Harvard University, der sich mit Phishing beschäftigt, testeten die Forscher einige der von Bots verfassten E-Mails an einer Gruppe von 108 älteren Freiwilligen.

Normalerweise trainieren Chatbot-Anbieter ihre Systeme so, dass sie schädliche Anfragen ablehnen. In der Praxis sind diese Schutzmaßnahmen jedoch nicht immer gewährleistet. Grok zeigte zwar eine Warnung an, dass die generierte Nachricht „nicht in realen Szenarien verwendet werden sollte“, lieferte aber dennoch den Phishing-Text aus und verstärkte die Aufforderung mit „Jetzt klicken“

Fünf weiteren Chatbots wurden dieselben Anweisungen gegeben: ChatGPT von OpenAI, der Assistent von Meta, Claude, Gemini und DeepSeek aus China. Die meisten Chatbots reagierten nicht, nachdem die Absicht deutlich gemacht wurde. 

Dennoch versagten ihre Schutzmaßnahmen nach leichten Anpassungen, etwa der Behauptung, die Aufgabe diene Forschungszwecken. Die Testergebnisse legten nahe, dass Kriminelle Chatbots für Betrugskampagnen nutzen könnten (oder dies möglicherweise bereits tun). „Man kann diese Systeme immer umgehen“, sagte Heiding.

Heiding wählte neun mit Chatbots erstellte Phishing-E-Mails aus und verschickte sie an die Teilnehmer. Rund 11 % der Empfänger fielen darauf herein und klickten auf die Links. Fünf der neun Nachrichten wurden angeklickt: zwei von Meta AI, zwei von Grok und eine von Claude. Keiner der Senioren klickte auf die von DeepSeek oder ChatGPT verfassten E-Mails.

Im vergangenen Jahr leitete Heiding eine Studie, die zeigte, dass Phishing-E-Mails, die von ChatGPT generiert wurden, genauso effektiv angeklickt werden können wie von Menschen geschriebene Nachrichten, in diesem Fall unterdent. 

Das FBI führt Phishing als die häufigste Form von Cyberkriminalität auf

Phishing bezeichnet das Verleiten ahnungsloser Opfer zur Preisgabe sensibler Daten oder cash durch gefälschte E-Mails und SMS. Diese Art von Nachrichten bildet die Grundlage vieler Online-Straftaten. 

Weltweit werden täglich Milliarden von Phishing-SMS und -E-Mails versendet. In den Vereinigten Staaten führt das FBI Phishing als die am häufigsten gemeldete Cyberkriminalität auf. 

Ältere Amerikaner sind besonders anfällig für solche Betrügereien. Laut aktuellen FBI-Zahlen haben sich die Anzeigen von Personen ab 60 Jahren im letzten Jahr verachtfacht, die Verluste beliefen sich auf rund 4,9 Milliarden US-Dollar. Generative KI habe die Situation deutlich verschärft, so das FBI.

Laut einem Cryptopolitan Bericht

Bei Chatbots liegt der Vorteil für Betrüger in der Menge und Geschwindigkeit. Anders als Menschen können Bots innerhalb von Sekunden und zu minimalen Kosten unzählige Varianten generieren, wodurch der Zeit- und Kostenaufwand für groß angelegte Betrügereien deutlich reduziert wird.