AIチャットボットがフィッシング攻撃に優れているという恐ろしい研究結果

著

シュマス・フマユン

読了時間3分 2025年9月15日

調査によると、AI チャットボットは高齢者を騙してリンクをクリックさせるような説得力のあるフィッシングメールを生成できるそうです。.
FBIはフィッシングが最も一般的なサイバー犯罪であり、高齢者は昨年50億ドル近くを失ったと報告している。.
108 人の高齢ボランティアを対象にしたテストでは、Grok、Meta AI、Claude が書いた詐欺メールを 11% がクリックしたことが判明しました。.

最近の調査では、現代のチャットボットを使用して高齢者をターゲットにした説得力のある詐欺メールがいかに簡単に作成できるか、また、それらのメールがいかに頻繁にクリックされるかが示されました。.

研究者らは、この研究で、Grok、OpenAIのChatGPT、Claude、Meta AI、DeepSeek、GoogleのGeminiなど、いくつかの主要なAIチャットボットを使用し、フィッシング詐欺をシミュレートした。.

が書いたサンプル文書の一つは、グロック「シルバー・ハーツ財団」という団体からの親切な呼びかけのように見えた。この団体は、高齢者に寄り添い、介護を提供する新しい慈善団体だと説明されていた。文書は高齢者を対象としており、簡単に参加できる方法を約束していた。しかし実際には、そのような慈善団体は存在しない。

「私たちは、すべての高齢者が人生の黄金期に尊厳と喜びを享受する権利があると信じています」とメモには書かれていました。「こちらをクリックすると、私たちが支援してきた高齢者たちの心温まるストーリーをご覧いただけるだけでなく、私たちの使命にどのように参加できるかについても知ることができます。」

ところロイター通信が、このボットは返信を生成しただけでなく、緊急性を高める提案も行った。「待ってはいけません！今すぐ私たちの思いやりのあるコミュニティに参加して、人々の生活を変えるお手伝いをしてください。手遅れになる前に、今すぐクリックして行動しましょう！」

フィッシング調査には108人のシニアボランティアが参加した。

記者たちは、6つの有名なAIチャットボットが安全ルールを放棄し、高齢者を騙すためのメールを作成するかどうかをテストしました。また、どの時間帯に最も反応が得やすいかなど、詐欺キャンペーンの計画に役立つ情報をボットに求めました。.

研究者らは、フィッシングを研究するハーバード大学の研究者ハイディング氏と協力し、ボットが作成した電子メールの一部を108人の高齢者ボランティアにテストした。.

通常、チャットボット企業は有害なリクエストを拒否するようにシステムを訓練します。しかし実際には、こうした安全策が必ずしも保証されているわけではありません。Grokは、生成したメッセージは「現実世界のシナリオでは使用すべきではない」という警告を表示しました。しかし、それでもフィッシングメールのテキストを表示し、「今すぐクリック」というメッセージでその宣伝文句を強調しました。

同じプロンプトを他の5つのチャットボット（OpenAIのChatGPT、Metaのアシスタント、Claude、Gemini、中国のDeepSeek）に提示したところ、ほとんどのチャットボットは意図を明確に伝えると応答を拒否しました。.

しかし、研究目的であると主張するなど、少し手を加えるだけで、彼らの防御策は失敗に終わった。テストの結果は、犯罪者が詐欺行為にチャットボットを利用できる（あるいは既に利用している）ことを示唆している。「こうした対策はいつでも回避できる」とハイディング氏は述べた。

ハイディング氏は、チャットボットで作成されたフィッシングメールを9通選び、参加者に送信しました。受信者の約11%が騙され、リンクをクリックしました。9通のうち5通がクリックされました。そのうち2通はMeta AI、2通はGrok、1通はClaudeからのものでした。DeepSeek 、とChatGPT

昨年、ハイディング氏は、ChatGPT によって生成されたフィッシングメールは、人間、つまりdentが書いたメッセージと同じくらいクリックされやすいということを示す調査を主導しました。.