深度伪造挑战促使工党对AI虚假信息采取战略回应

为了应对围绕AI生成深度伪造（deepfakes）日益加剧的担忧，工党正在考虑禁止所谓的“去衣”（nudification）工具，并支持跨党派承诺以打击选举虚假信息。

这些措施载于由中间偏左智库Labour Together制定的政策论文中，旨在遏制有害深度伪造在数字平台上的蔓延。

工党的主动立场

工党战略的核心是提议禁止专用的“去衣”工具，这些工具通过操纵真实个人的图像来创建露骨内容，且未经其同意。 

该倡议旨在遏制非自愿色情内容的传播，这是一个随着AI技术进步而加剧的紧迫问题。 

拟议的禁令反映了工党保护个人数字隐私并防止AI被用于恶意目的的坚定决心。

政策论文还主张对通用AI工具开发者和网络托管实体施加义务。 

这些义务将要求实施措施，以减轻有害深度伪造的生产和传播。 

通过追究AI开发者和托管平台的责任，工党旨在减轻通过数字渠道传播的欺骗性和操纵性内容造成的潜在伤害。

跨党派打击选举虚假信息承诺

除了拟议的“去衣”工具禁令外，工党正在考虑支持一项旨在打击构成选举虚假信息的深度伪造的跨党派承诺。 

该宣言强调了各政党在维护民主进程完整性和保护公众对选举制度的信任方面的协作努力。通过承诺遵守该宣言，工党旨在加强防御，防止在选举活动中通过人工智能生成的虚假信息操纵公众舆论。

政策论文的共同作者劳雷尔·博克斯尔（Laurel Boxall）强调，有必要通过监管来解决人工智能技术可能带来的危害。 

博克斯尔强调了政府干预的重要性，以缓解公众的担忧，并确保人工智能成为造福社会的工具，而不是造成危害的渠道。 

通过实施监管措施，工党旨在在利用人工智能创新潜力和防止其被滥用之间取得平衡。

论文的另一位共同作者柯尔斯蒂·因内斯（Kirsty Innes）强调了深度伪造（deepfakes）带来的多方面风险，这些风险超出了“换脸”（nudification）的范畴。 

因内斯强调了深度伪造在实施欺诈方面的威胁，并强调了采取主动措施以减轻这一风险的紧迫性。 

通过主动解决深度伪造问题，工党旨在防止一场类似于困扰英国的普遍在线欺诈的潜在危机。

应对深度伪造争议与监管挑战

该政策文件的发布紧随推特（Twitter）处理涉及工党领袖基尔·斯塔默（Keir Starmer）的深度伪造内容争议之后。 

尽管推特（现名为X）有反对虚假信息的政策，但其因不愿删除一段据称显示斯塔默训斥其员工的病毒式传播深度伪造音频片段而受到批评。 

这一事件凸显了社交媒体平台在有效识别和处理人工智能生成内容方面面临的挑战。

鉴于这一争议，工党对深度伪造监管的讨论显得尤为重要，反映了采取有力措施打击欺骗性和有害的人工智能生成内容传播的必要性。 

随着技术进步不断超越监管框架，工党提出的举措标志着其在驾驭人工智能伦理和监管复杂格局方面采取了主动立场。

工党考虑禁止人工智能换脸工具并支持跨党派承诺打击深度伪造选举虚假信息，这反映了应对人工智能技术带来的不断演变挑战的共同努力。 

通过优先考虑监管措施和协作倡议，工党旨在减轻与深度伪造相关的潜在风险，同时维护隐私、诚信和民主治理的基本原则。