美国禁止AI生成的机器人电话，语音克隆骗局激增

美国已采取果断行动，应对日益严重的AI生成机器人电话问题，在语音克隆事件激增导致数千人受骗后，禁止使用此类电话。人工智能技术的最新进展使得创建误导性音频和视频成为可能，给检测和预防带来了重大挑战。

禁止AI生成的机器人电话

联邦通信委员会（FCC）禁止AI生成的机器人电话，以应对利用语音克隆技术进行的欺诈活动日益增长的威胁。这项禁令旨在打击利用弱势群体（包括老年人和不了解情况的人）的行为，这些人已成为冒充可信人物或传递虚假信息的未经请求电话的受害者。

该禁令赋予FCC对被发现使用AI生成声音进行机器人电话的公司处以罚款的权力，并限制促进此类电话的服务提供商。这项即时监管措施凸显了政府遏制欺诈行为和保护消费者免受欺骗性计划侵害的承诺。

语音克隆骗局的普遍性

恶意行为者利用语音克隆技术实施各种形式的欺诈，包括勒索、冒充名人和选民误导活动。值得注意的是，最近一起事件涉及冒充乔·拜登总统的虚假机器人电话，旨在劝阻新罕布什尔州民主党初选中的选民支持他。

针对这些事件，FCC已启动刑事调查，并向传播AI生成机器人电话的相关实体发出停止和终止令。政府官员强调，在竞选季节，虚假机器人电话的泛滥带来了选民压制和选举干扰的更高风险。

FCC实施的监管措施旨在应对AI技术进步带来的不断演变的威胁格局。通过禁止在机器人电话中使用AI生成的声音，政府旨在保护通信渠道的完整性，并恢复公众对电信系统的信任。

禁止AI生成的机器人电话是减轻语音克隆骗局对消费者和民主进程有害影响的重要一步。政府旨在通过果断的监管行动遏制欺诈活动，并维护电信领域的透明度和问责制原则。随着技术的发展，警惕性和监管适应对于防范AI生成内容带来的新兴威胁至关重要。