サンディエゴに住む祖母が、AIが生成した音声クローンが愛する孫の声を真似る詐欺に遭い、数千dent の損失を免れるところだった。事件はノースカウンティに住むモーリーンという祖母が、匿名の番号から電話を受けたことから始まった。最初は妹の非通知着信だと勘違いしていたのだ。電話の向こうから聞こえてきた声は、まるで孫の声のように不気味だった。.
説得力のあるAIの欺瞞
電話をかけてきた人物はモーリーンの孫を名乗り、交通dentに遭い、首にコルセットを装着して警察署に向かっていると告げた。彼は緊急に保釈金として8,200ドルを要求した。AIが生成した偽の音声はあまりにも説得力があり、モーリーンはためらうことなくそれが孫だと信じた。弁護士を名乗る人物も電話に加わり、孫がdentで外交官を殴ったと主張し、72時間以内に秘密にする必要があると強調して詐欺の信憑性を高めた。.
孫の身を案じたモーリーンは、詐欺に騙されてしまいました。彼女は保釈金と称するお金を急いで集め、銀行へ駆け込み、さらにお金を引き出しました。しかし、苦労して稼いだ cashを渡す前に、賢明にも娘に連絡を取り、孫の安否を確認しました。ほっとしたことに、本当の孫はゴルフトーナメントに参加していて無事だったのです。この事実に詐欺師は激怒し、その後モーリーンの娘に電話をかけた際に怒りをぶちまけました。.
AIを利用した詐欺が増加
「おばあちゃん詐欺」などのなりすまし詐欺では、詐欺師が信頼できる人物を装い、でっち上げた緊急事態を理由に被害者を騙して送金させます。この傾向は特に高齢者の間で増加しており、法執行機関の懸念も高まっています。人工知能（AI）の登場により、音声模倣がより容易かつ費用対効果の高いものとなり、この問題は深刻化しています。.
ElevenLabsやStable DiffusionなどのAIツールは、音声や口の動きを操作できるため、本物の音声や動画を偽物と見分けることがますます困難になっています。連邦取引委員会によると、2022年には、なりすまし詐欺は米国で2番目に多く発生している詐欺であり、電話を介したdentによる被害は3万6000件を超え、1100万ドルを超えています。.
AI詐欺からの保護
AIを悪用した詐欺の脅威の高まりを受け、モーリーンの家族は「セーフワード」と呼ばれる保護戦略を考案しました。この固有の単語は家族だけが知っており、不審な電話を受けた際の確認手段として機能します。重要なのは、この単語をテキストメッセージやメールで共有せず、電話で直接伝えることです。.
モーリーンは、この詐欺によって生じた精神的苦痛を強調し、同じような経験をする人を救いたいと訴えました。安全語の使用や直接電話でのコミュニケーションは、AIを駆使した詐欺の増大する脅威に対抗するための積極的なアプローチです。.
モーリーンおばあちゃんがAI音声クローン詐欺に遭いそうになった話は、詐欺師の手口がますます巧妙化していることを浮き彫りにしています。AI技術が進化するにつれ、個人や家族が、こうした欺瞞的な詐欺によって引き起こされる精神的・経済的苦痛から身を守るために、セーフワードや直接電話でのコミュニケーションといった保護策を講じることが不可欠になっています。.
