AIおばあちゃんが詐欺師を出し抜き、3つのテクノロジーの懸念に対処

AIをはじめとするあらゆる新興技術は、長所と短所が慎重に検討されています。人工知能は、イノベーションを加速させる一方で、潜在的なリスクも伴うため、しばしば諸刃の剣と呼ばれます。.

最近では、英国の通信大手O2が、優しくおしゃべりなおばあちゃんを装う詐欺師に対抗するため、「AIデイジー」を導入しました。YouTuberのジム・ブラウニング氏の協力を得て開発されたこのAIは、自らのリスクへの対策となるのでしょうか？

AIデイジーって誰？

AIは 2024年のテーマとなっていますが、AIが仕事を奪ったり、既存のソフトウェアを凌駕したり、プライバシーや倫理上の問題を引き起こしたりするのではないかという懸念も議論されています。しかし、英国に拠点を置く通信会社O2は、新たなキャンペーンでこの議論に積極的に取り組んでいます。

O2は、「詐欺師をかわそう」キャンペーンの一環として、詐欺師の時間を無駄にするために「AIデイジー」を導入しました。 詐欺師がAIおばあちゃんとの会話に忙殺されれば、  本物の人間を騙す時間など なくなるでしょう 。デイジー の役割は、詐欺師を長くて無意味な会話に引き込み、彼らを忙しくさせることのようです。彼女は「正直に言って、私に はいくらでも時間があるのよ 」と強調します。同社はまた、 がより多くの詐欺師を特定できるように、詐欺の電話番号を報告するよう人々にdent。呼びかけています

広告の中でデイジーは、「こんにちは、詐欺師の皆さん。私はあなたにとって最悪の悪夢です」とも言っています。

AIおばあちゃんが騙されるほどの怒りは地獄にはありません。デイジーが詐欺師の時間を無駄にして、あなたを騙せないようにする様子をご覧ください。.

👉詐欺電話や詐欺メールは7726に通報してください pic.twitter.com/hkNMDqG87b

— O2 (@O2) 2024年11月15日

YouTubeチャンネルで詐欺師を摘発することで知られるジム・ブラウニング氏も、AIデイジーの訓練に関わっていました。スカイニュースとのインタビューで 、彼はこのAIは詐欺電話の実際の録音を用いて訓練されたと説明しており、その多くは彼のYouTube動画から引用されています。ブラウニング氏はまた、詐欺師の手口を理解するために何年もかけて録音し、彼らから学んだことも明かしました。このバーチャル自警団員によると、デイジーは詐欺師の時間とリソースを無駄にさせ、詐欺の収益性を低下させる可能性があるとのことです。

AIは諸刃の剣だ

最新技術は人々の救済に役立つ一方で、詐欺行為をより容易にする側面も持ち合わせている。Truecallerの報告によると 、2023年だけで5,620万人の米国成人が詐欺の被害に遭った。平均すると、4人に1人が452ドルを失ったという。また、高齢者は若年層に比べて頻繁に標的にされているが、若年層の方が詐欺被害​​に遭うリスクが高いことも明らかになった。

AIデイジーのCMに出演したインフルエンサーのエイミー・ハートは、「悪質な詐欺師がどれほど巧妙になり得るかを身をもって知っています」と語った。一方、人材派遣会社パーマー・グループのCEO、シェリー・パーマーは、自分がそのアイデアを思いつけばよかったと後悔している。パーマー氏は、そのアイデアに興奮しているものの、 警告した 確認のために「安全な言葉やフレーズ」を使うことを提案しているdent不審な要求をする電話に対して、

報道によると、AI音声クローンとディープフェイク技術は、実在の人物になりすますことに関しては、本物とほとんど変わらない。Sift の 安全 チームはブログで、AIがデータを分析してdent潜在的な被害者とその脆弱性 ターゲットが見つかると、詐欺師は感情的なトリガーやストーリーを使って操作し、資金を盗む。O2のDaisyは、AIを使って人々を騙すことへの対策である。その結果、 AIおばあちゃんDaisyは詐欺師を出し抜くだけでなく、3つの主要な技術的懸念に対処している。

まず、AIによる音声クローンは、詐欺師が実在の人物になりすますことができるため、プライバシーリスクを高めます。デイジーは、この状況を覆すことに成功しています。次に、批評家たちは、AIが社会にもたらす倫理的影響について疑問を呈しています。このキャンペーンは前向きな目的を持ち、責任あるAI活用の必要性を説いています。最後に、AIが人間の仕事に与える影響は、あらゆる会話において最優先事項となっています。2024年には、AIデイジーはかつて人間の介入が必要だったタスクを処理しています。AIは顧客サービスにおける人間の介入を減らしていますが、多くのアナリストは依然としてこれを過大評価していると指摘しています。.

とはいえ、AI Virgin Media O2 は詐欺対策に「多額の投資」を行っており、Daisy は不正な発信者を一度に40 分間も引き留めることに成功したと報じられている 。