FCC 主席提议新法律禁止 AI 生成声音

在最近的一项发展中，美国联邦通信委员会（FCC）主席杰西卡·罗森沃塞尔（Jessica Rosenworcel）提议将包含人工智能（AI）生成声音的通话列为非法。拟议的法规和处罚将属于《电话消费者保护法》（TCPA）的管辖范围。这项 FCC 主席的举措紧随一起令人不安的事件之后，在该事件中，AI 生成的声音被用来传播虚假消息，模仿美国总统乔·拜登的声音。

FCC 主席提议禁止 AI 生成声音

伪造的信息建议新罕布什尔州居民不要参加该州的初选，其明显目的是干预即将到来的 2024 年总统选举。这些模仿拜登总统声音的自动呼叫很快被州总检察长办公室标记为虚假信息。

为了应对日益严重的 AI 驱动自动呼叫问题，FCC 主席罗森沃塞尔的提议旨在援引《电话消费者保护法》（TCPA），这是一部 1991 年的法律，旨在规范未经接收者同意而进行的自动政治和营销呼叫。TCPA 的主要目标是保护消费者免受不必要的和侵扰性的通信，包括未经请求的 telemarketing 电话和自动消息。

近年来，此类呼叫的普及率显著上升，因为技术进步使得能够欺骗性地模仿名人、政治人物甚至家庭成员的声音。如果通过，FCC 主席罗森沃塞尔的提议将赋予全国各地的州总检察长更多的工具，以追究这些恶意自动呼叫的责任人并执行法律后果。

这位 FCC 女主席的举措紧随该机构 2023 年 11 月发布的《询问通知》，该通知寻求关于解决非法自动呼叫以及 AI 潜在参与的信息。该询问深入探讨了 AI 在诈骗、声音模仿中的作用，以及是否应将其置于 TCPA 的监管之下。此外，FCC 主席指出，该机构旨在收集有关如何积极利用 AI 的见解，特别是在识别和防止非法自动呼叫方面。

AI 格局和立法回应

在更广泛的层面上，白宫于 1 月 29 日发布了一份事实清单，概述了关于 AI 的关键行动，这是在拜登总统发布 AI 行政命令三个月后。事实清单承认在实现总统“保护美国人免受 AI 系统潜在风险”的指令方面取得了“实质性进展”。

深度伪造（deepfakes）的兴起，即可以高度欺骗性的 AI 生成内容，引发了担忧。世界经济论坛在其第 19 份《全球风险报告》中强调了与 AI 技术相关的不良后果。担忧不仅限于美国，加拿大安全情报局（加拿大主要国家情报机构）也对互联网上利用 AI 深度伪造进行虚假信息运动的担忧表示关注。

为了应对 AI 生成内容带来的更广泛挑战，美国立法者敦促立法将制作深度伪造图像定为刑事犯罪。这一呼吁行动是在泰勒·斯威夫特等名人的虚假色情照片广泛传播之后提出的。AI 与通信技术的交叉点带来了复杂的挑战，需要在创新和监管之间取得平衡。

随着人工智能的不断发展，政策制定者、监管机构和执法部门正努力调整法律框架，以应对这些技术被滥用的潜在风险。提议将 AI生成的语音通话列为现有法律下的非法行为，代表了在应对围绕欺骗性自动呼叫的日益担忧以及人工智能在通信中的更广泛影响方面采取的积极步骤。