FTC即将通过更新规则针对深度伪造对消费者的威胁

深度伪造日益增加的威胁促使美国联邦贸易委员会（FTC）采取主动措施，更新监管规定，旨在防止人工智能（AI）冒充企业或政府机构，主要重点是保护消费者。

FTC采取主动措施应对深度伪造威胁

根据拟议的监管规定，生成式人工智能（GenAI）平台将被禁止提供可能通过冒充行为对消费者造成伤害的产品或服务。这一举措反映了FTC对AI驱动诈骗（包括声音克隆，可能欺骗个人并操纵他们从事欺诈活动）日益复杂性的认识。

FTC主席Lina Khan强调了解决冒充欺诈的紧迫性，特别是在AI技术日益普及的背景下。通过扩大冒充规则的适用范围，FTC旨在配备更强大的措施来打击通过AI冒充个人或实体进行的诈骗。

更新监管规定的一个显著方面是赋予FTC直接向利用AI冒充政府或企业实体的骗子发起联邦法院诉讼的权力。这一规定强调了FTC迅速干预和追回通过欺诈性冒充获得的非法收益的承诺。

一旦在《联邦公报》上发布，关于政府和商业冒充的最终规则将在30天后生效。在随后的60天公众评论期内，利益相关者将有机会对拟议的监管规定提供反馈，确保在实施前考虑不同的观点。

监管措施与法律格局

虽然联邦法律目前未专门处理深度伪造图像的分享或创建，但一些立法者开始采取措施应对这一新兴威胁。深度伪造操纵的受害者，包括名人和个人，可能会探索法律途径，如版权法、肖像权以及诸如侵犯隐私或故意造成精神痛苦等各种侵权行为。然而，导航这些法律框架可能既艰难又耗时。

回应人们对深度伪造技术日益增长的担忧，美国联邦通信委员会（FCC）最近通过重新解释禁止来自人工或预录声音的垃圾邮件的现有规则，禁止了AI生成的机器人电话。

这一监管行动紧随新罕布什尔州一起著名事件之后，在该事件中，乔·拜登总统的深度伪造被用于电话活动以劝阻人们投票。在缺乏联邦立法的情况下，几个州已采取独立行动在其司法管辖区内禁止深度伪造。

AI驱动欺骗的不断变化的格局凸显了需要采取综合措施来解决对消费者安全和安全的新兴威胁。通过更新监管和执法机制，政府机构旨在领先于寻求利用技术进步进行欺诈的恶意行为者。

随着FTC的拟议监管规定接受公众审查和完善，这代表了保护免受AI驱动诈骗以及保护企业和政府机构完整性的关键一步。通过监管机构、立法者和利益相关者之间的合作，社会可以更好地应对深度伪造技术带来的复杂挑战，并在日益数字化的世界中维护信任和问责制。