专家呼吁加强对深度伪造的监管

史无前例地，人工智能（AI）社区的领军人物，包括先驱研究员约书亚·本吉奥（Yoshua Bengio），发出呼吁，要求加强对深度伪造生产的监管。这个由来自各个领域的专家和高管组成的集体，通过由加州大学伯克利分校著名AI研究员安德鲁·克里奇（Andrew Critch）策划的公开信表达了他们的担忧。这封题为“破坏深度伪造供应链”的信概述了立法和监管措施的战略，以减轻这些逼真但合成的作品带来的风险。

紧急呼吁监管

由AI技术合成的图像、音频和视频深度伪造，已经达到了如此高的复杂程度，以至于将它们与真实的人类生成内容区分开来变得越来越困难。这一进步引发了对其可能被滥用于传播性剥削、欺诈和政治虚假信息的警报。“鉴于AI技术的快速进步，使深度伪造更容易获取，建立保障措施势在必行”，签署者强调。他们建议采取监管行动，包括将利用儿童的深度伪造内容完全定罪，对明知参与创建或传播有害深度伪造的人施加刑事惩罚，并强制AI公司确保其技术不促进此类内容的生产。

广泛的行动联盟

来自学术界、娱乐界和政治界等不同领域的400多人支持这封信，展示了对该问题的广泛关注。签署者中的知名人士包括哈佛大学心理学教授史蒂文·平克（Steven Pinker）、算法正义联盟创始人乔伊·布奥拉姆维尼（Joy Buolamwini）、爱沙尼亚的前任总统，以及谷歌DeepMind和OpenAI的研究人员。这一广泛的联盟强调了局势的严重性以及寻求解决方案的集体决心。

对AI影响的日益关注

对AI系统的监管审查日益激烈，特别是在OpenAI推出ChatGPT之后，它展示了AI模仿人类互动的潜力。这一发展，加上其他AI进步，引发了一系列来自知名人物关于技术风险的警告。一个显著的例子是去年由埃隆·马斯克（Elon Musk）背书的一封信，主张暂时停止超越OpenAI的GPT-4模型能力的AI技术的进步。这种谨慎的呼吁反映了对平衡AI创新与社会保障的日益共识。

更安全未来的建议

这封信提出了一种多方面的方法来监管深度伪造，强调需要能够适应AI创新步伐的法律框架。通过定罪最恶劣形式的深度伪造并追究创作者和传播者的责任，签署者主张采取主动立场来对抗技术的滥用。此外，他们主张AI公司在防止生成有害内容方面发挥关键作用，建议共同承担责任以保护公众。

总之，领先的AI专家和行业人物呼吁加强对深度伪造的更严格监管，标志着关于AI技术道德使用的持续对话中的一个关键节点。随着AI能力的不断演变，“破坏深度伪造供应链”中概述的集体行动为减轻与这些进步相关的风险提供了路线图。通过协调政策制定者、行业领导者和更广泛社区的努力，有一条充满希望的前进道路，确保AI服务于更大的利益，同时最大限度地减少其潜在危害。