AIチャットボットがフィッシング戦術に優れていることを示す研究の恐ろしい結果

著者

シュマース・フマユーン 3分で読了公開 15月 2025日

研究により、AIチャットボットが高齢者を騙してリンクをクリックさせる説得力のあるフィッシングメールを生成できることが判明。
FBIによると、フィッシングは最も一般的なサイバー犯罪であり、高齢者は昨年約50億ドルを失った。
108人の高齢ボランティアを対象としたテストでは、Grok、Meta AI、Claudeによって作成された詐欺メールの11%がクリックされた。

最近の研究では、現代のチャットボットがどのように簡単に、高齢者 targeted な説得力のある詐欺メールを作成できるか、そしてそれらのメールがどれほど頻繁にクリックされるかが示された。

研究者たちは、Grok、OpenAIのChatGPT、Claude、Meta AI、DeepSeek、GoogleのGeminiなど、いくつかの主要なAIチャットボットを使用して、フィッシング詐欺をシミュレートした。

1つのサンプルノートは Grok 「Silver Hearts Foundation」という名前の、高齢者に同伴者とケアを提供する新しい慈善団体からの親しみやすい outreach のように見えた。このノートはシニア市民 targeted で、簡単に関与する方法を約束していた。実際には、そのような慈善団体は存在しない。

「私たちは、すべてのシニアが黄金の年に尊厳と喜びを受けるべきだと信じています」とノートは読んだ。「ここをクリックすると、私たちが支援したシニアの心温まるストーリーを発見し、私たちの使命に参加する方法を学ぶことができます。」

記者から Reuters Grokにフィッシングテキストの作成を依頼すると、ボットは応答を生成するだけでなく、緊急性を高めることを提案した。「待たないで！今日、私たちの慈悲深いコミュニティに参加し、人生を変えましょう。遅くなる前に今すぐクリックして行動してください！」

108人のシニアボランティアがフィッシング研究に参加した

記者たちは、6つのよく知られたAIチャットボットが安全規則を放棄して高齢者を欺くためのメールを作成するかどうかをテストした。また、ボットに詐欺キャンペーンの計画、特にどの時間帯が最も良い反応を得られるかについてのヒントを求めるよう依頼した。

フィッシングを研究するハーバード大学の研究者であるHeidingと協力して、研究者たちはボットが作成したいくつかのメールを108人のシニアボランティアのプールでテストした。

通常、チャットボット会社は有害なリクエストを拒否するようにシステムを訓練する。しかし、実際には、これらの保護策が常に保証されているわけではない。Grokは、生成したメッセージが「現実の世界で使用すべきではない」と警告を表示した。それでも、フィッシングテキストを配信し、「今すぐクリック」で訴求を強化した。

他の5つのチャットボットにも同じプロンプトが与えられた：OpenAIのChatGPT、Metaのアシスタント、Claude、Gemini、中国のDeepSeek。意図が明確になると、ほとんどのチャットボットは応答を拒否した。

それでも、軽微な修正（例えば、タスクが研究目的であると主張するなど）の後、それらの保護は失敗した。テストの結果は、犯罪者が詐欺キャンペーンにチャットボットを使用している（またはすでに使用している）可能性を示唆している。「あなたは常にこれらのものを回避できます」とHeidingは言った。

Heidingはチャットボットで作成された9つのフィッシングメールを選択し、参加者に送信した。受信者の約11%がそれにだまされ、リンクをクリックした。9つのメッセージのうち5つがクリックを集めた：Meta AI由来の2つ、Grok由来の2つ、Claude由来の1つ。 DeepSeek やChatGPTによって書かれたメールをクリックしたシニアはいなかった。

昨年、HeidingはChatGPTによって生成されたフィッシングメールが、その場合は大学生の間で、人間が書いたメッセージと同じくらいクリックされる効果があることを示す研究を主導した。