- OpenAI 在其最新报告中指出，其聊天机器人已成为在国民选举前制造虚假信息的主要渠道。
- OpenAI 强调需要采取强有力的安全措施和健全的监管框架，以减缓由人工智能支持的国家级选举操纵活动。
- 截至目前，人工智能生成的内容尚不足以影响政治观点。
OpenAI 的报告指出，其模型正被用于影响选举。报告还称，它已下架了 20 多个依赖其 AI 模型进行此类恶意活动的运营项目。
OpenAI 报告, “关于破坏 AI 欺骗性使用的更新”也强调在与政治内容互动时需要保持警惕。
文件显示，OpenAI 的模型正成为破坏选举和传播政治虚假信息的主要工具。不良行为者（通常是受国家支持的）利用这些 AI 模型进行各种活动，包括为社交媒体上的虚假身份生成内容以及进行恶意软件逆向工程。
OpenAI 在 AI 选举和政治中的日益影响力
8 月下旬，OpenAI 破坏了一个 伊朗活动 ，该活动正在制作社交媒体内容以影响美国选举、委内瑞拉政治、加沙冲突和以色列局势。报告称，一些随后被禁用的账户还发布了关于卢旺达选举的内容。
它还发现，一家以色列公司也参与了试图操纵印度民调结果的活动。
然而，OpenAI 指出，这些活动并未病毒式传播或培养出大量受众。与这些活动相关的社交媒体帖子获得的关注度微乎其微。这可能表明，通过 AI 驱动的虚假信息运动来左右公众意见是困难的。
历史上，政治运动通常由竞选双方的虚假信息推动。然而，AI 的出现给政治体系的完整性带来了不同的威胁。 世界经济论坛 (WEF) 表示，2024 年是选举的历史性一年，有 50 个国家举行选举。
日常使用的 LLM 已经具备更快、更令人信服地创建和传播虚假信息的能力。
监管与合作努力
为了应对这一潜在威胁，OpenAI 表示，它正通过与相关利益相关者共享威胁情报来开展工作。它预计这种协作方式足以监管虚假信息渠道并促进道德 AI 的使用，特别是在政治环境中。
OpenAI 报告称，“尽管此次行动未能产生有意义的受众参与，但我们认真对待任何试图利用我们的服务进行外国影响力活动的行为。”
该 AI 公司还强调，必须建立强大的安全防御措施，以防止利用 AI 创建欺骗性和破坏性在线活动的受国家支持的网络攻击者。
WEF 也强调了建立 AI 监管的必要性，称：“关于互操作标准和基本监管要求的国际协议将在促进创新和改善 AI 安全方面发挥重要作用。”
制定有效的框架需要像 OpenAI 这样的科技公司、公共部门和私人利益相关者之间的战略合作伙伴关系，这将有助于实施道德 AI 系统。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Hannah Collymore
汉娜是一位作家兼编辑，在加密货币领域拥有近十年的博客写作和活动报道经验。在Cryptopolitan，汉娜负责新闻板块，报道和分析DeFi、RWA、加密货币监管、AI和前沿科技行业的最新发展。她毕业于阿卡迪亚大学，获得工商管理学位。
