AI 奶奶智胜骗子并解决 3 个技术担忧

AI 和所有新兴技术都权衡利弊。人工智能常因其潜在风险而被比作双刃剑，同时激发创新。

最近，英国电信巨头 O2 推出了“AI Daisy”来打击冒充和蔼、健谈奶奶的骗子。在 YouTuber Jim Browning 的帮助下开发，AI 是否正在为其自身的风险提供反制措施？

AI Daisy 是谁？

AI “AI 接管工作”、“超越现有软件”以及“创造隐私和伦理问题”的担忧在 2024 年一直是主题，但一家名为 O2 的英国电信公司已从容应对这一辩论，推出了一项新活动。

O2在“闪避骗子”活动中推出了“AI Daisy”，旨在浪费骗子的时间。 如果骗子正忙着和AI老奶奶聊天， 其中 还有 be 时间诈骗真人吗？ Daisy的工作似乎是让骗子陷入漫长而无意义的对话中，让他们忙个不停。她强调：“说真的，亲爱的，我有 最近被 大把的时间。”该公司还 鼓励 人们举报诈骗号码，以帮助Daisy识别更多的骗子。

在广告中，Daisy还表示：“你好，骗子们。我是你们的噩梦。”

被AI奶奶骗过的地狱之怒。看Daisy如何浪费骗子的时间，让他们无法诈骗你。

👉向 7726 报告欺诈性电话和短信 pic.twitter.com/hkNMDqG87b

— O2 (@O2) 11 月 15 日， 2024

Jim Browning经常因其YouTube频道上揭露骗子的行为而闻名，他也参与了AI Daisy的训练。在与 Sky News, 他解释说，该AI是使用真实的诈骗电话录音进行训练的，其中许多录音来自他的YouTube视频。Browning还透露，他花了数年时间记录和向骗子学习，以了解他们的手法。据这位虚拟义警称，Daisy让骗子浪费他们的时间和资源，可能使诈骗变得无利可图。

AI是一把双刃剑

当部分技术让诈骗变得简单时，新兴技术正在拯救人们。根据 Truecaller, 2023年 alone 就有5620万美国成年人受到诈骗影响。平均而言，每4人中有1人损失了452美元。报告还发现，与年轻人相比，老年人更常成为目标，但后者被诈骗的风险更高。

在AI Daisy广告中工作的网红Amy Hart表示：“我 firsthand 知道恶劣的欺诈者可以多么复杂。”与此同时，就业机构Palmer Group的首席执行官Shelly Palmer表示，他希望自己早就想到了这个主意。尽管对这个想法感到兴奋，但该高管 警告 指出语音克隆是一项有风险的技术，因为骗子可能会利用它冒充他人。他建议家庭使用“安全词或短语”来验证在提出异常请求的电话中的身份。

根据报告，在冒充真人方面，AI语音克隆和深度伪造技术与真人几乎无异。 Sift的 安全 团队在博客中透露，AI分析数据以识别潜在受害者及其弱点。 一旦锁定目标，骗子就会利用情感触发器和故事来操纵受害者以窃取资金。O2的Daisy是防止利用AI诈骗人们的对策。因此， AI奶奶Daisy不仅在智胜骗子，她还解决了三大技术担忧。

首先，AI语音克隆引发了隐私风险，因为骗子现在可以冒充真人。Daisy成功扭转了局面。其次，批评者质疑AI在社会中的伦理影响。该活动具有积极的目的，并解释了负责任地使用AI的必要性。最后，AI对人类就业的影响是每次对话的焦点。2024年，AI Daisy处理了一项曾经需要人工干预的任务。虽然AI减少了客户服务中的人际互动，但几位分析师仍认为这是高估了。

话虽如此，AI Virgin Media O2表示，为了打击欺诈，它“大量投资”，据报道Daisy已成功让可疑通话者占用40分钟 。.