OpenAI的强力反制措施——打击2024年选举虚假信息

在50多个国家即将举行全国选举之际，ChatGPT背后的创新力量OpenAI已主动采取行动，防止其AI工具被武器化用于传播选举虚假信息。随着各国为关键的民主进程做准备，认识到AI生成内容被滥用的威胁日益加剧。总部位于旧金山的OpenAI概述了一项多方面的战略，以遏制其强大的生成式AI工具被滥用，承认有责任促进准确的投票信息，执行严格政策，并提高透明度。

OpenAI 多管齐下应对选举虚假信息

OpenAI 的计划在最近的博文公告中公布，融合了现有政策和全新举措，以保障选举的公正性。该公司重申其对平台安全的承诺，誓言禁止创建冒充真实候选人或政府的聊天机器人。此外，其技术被滥用来歪曲投票流程或抑制参与度的行为将不被容忍。OpenAI 承认需要进一步研究其工具的说服力，因此暂时限制开发用于政治竞选或游说的应用程序。

从今年年初开始，OpenAI 计划实施一项开创性措施，为其 DALL-E 图像生成器生成的 AI 图像添加数字水印。该水印将作为永久标识，有助于识别内容来源，并协助区分真实图像与使用 OpenAI AI 工具操纵的图像。

OpenAI 正与州务卿协会（National Association of Secretaries of State）合作，旨在引导寻求投票后勤信息的 ChatGPT 用户访问该协会网站上提供的准确且无党派偏见的资源。这一战略合作旨在将查询引导至可靠信息，并减少传播虚假信息的潜在可能性。

实施的挑战——民主困境

布伦南司法中心（Brennan Center for Justice）民主项目法律顾问 Mekela Panditharatne 对 OpenAI 的努力表示赞赏，认为这是打击选举虚假信息的一个积极步骤。然而，她对这些保障措施在实际中的有效性提出了合理的担忧。关于过滤器在标记与选举相关查询方面的全面性以及可能遗漏的项目等问题依然悬而未决。因此，OpenAI 计划的成功取决于这些保障措施的细致执行。

OpenAI 的 ChatGPT 和 DALL-E 处于生成式 AI 技术的前沿，但行业内缺乏类似工具的普遍存在且缺乏强有力的保障措施仍令人担忧。布鲁金斯学会（Brookings Institution）高级研究员 Darrell West 强调，生成式 AI 公司需要采用类似的准则，以在行业范围内执行实用规则。如果缺乏自愿采用，可能需要立法干预来监管政治中的 AI 生成虚假信息，而美国联邦立法的缓慢进展加剧了这一挑战。

保持警惕——OpenAI CEO 谈焦虑与监控

OpenAI CEO Sam Altman 承认其主动措施的重要性，但强调需要持续的警惕。在瑞士达沃斯世界经济论坛期间的一次彭博社活动上，Altman 传达了公司致力于全年进行“超级紧密的监控”和“超级紧密的反馈循环”。尽管已实施保障措施，Altman 承认自己仍感到焦虑，这反映了他所面临挑战的严重性。

随着OpenAI在打击选举虚假信息方面采取大胆立场，其措施的有效性在于实施的复杂细节。与选举相关组织的合作以及对AI生成图像进行数字水印标记，是在全球加强选举完整性方面迈出的重大步伐。但更广泛的挑战依然存在——行业是否会团结起来支持类似的指导方针，还是立法措施将成为当务之急？随着世界注视着AI与民主叙事的展开，问题依然存在：OpenAI的倡议能否为2024年集体防御选举虚假信息铺平道路？