OpenAI报告称中国团体滥用ChatGPT的情况日益增多

OpenAI透露，其工具的神秘使用激增，特别是与中国团体有关，这些团体正利用其ChatGPT平台进行恶意活动。

自2022年11月ChatGPT发布并立即取得成功以来，人们对其基于生成类人音频、文本、图像和视频的能力所产生的潜在后果表示担忧。并且OpenAI定期发布关于其平台上任何恶意活动的报告，例如用于网站的虚假内容。

OpenAI瓦解了10个滥用其工具的独立运动

在周四发布的一份报告中，这家位于旧金山的公司透露，它最近瓦解了十个利用其AI工具的独立运动。其中四个是由与中国有关的团体安排的，而规模较小的计划则与其他国家有关。

根据Ben Nimmo的说法，OpenAI调查团队的首席研究员，这些与中国有关联的行动在多个在线场所部署了广泛 tactics。

“我们观察到一个不断扩大的工具包，”他告诉记者。

“一些运动融合了影响力行动、社会工程和监视，跨越了从TikTok和X到Reddit和Facebook的平台。”

Nimmo。

一个关键例子，被称为“Sneer Review”，使用ChatGPT用英语、中文和乌尔都语发布简短帖子和评论。这些内容涵盖了诸如美国国际开发署解散等主题，时而赞扬时而批评这一决定，以及将台湾策略视频游戏呈现为对中国执政党的攻击的批评。

根据OpenAI的报告，在大多数情况下，该行动不仅创建了原始帖子，还创建了回复，使其看起来像是一场“真实”的辩论。同一群体还创建了一篇长篇文章，声称对该游戏存在广泛的公众抗议。

“Sneer Review”还使用ChatGPT起草内部文件和绩效评估，详细说明了运动执行的每一步。OpenAI的分析人员发现，实际的社交媒体行为与这些自我评估非常吻合，突显了AI如何简化前线影响和后台管理。

报告还显示，另一个与中国有关的网络专注于情报收集，假装成记者和地缘政治评论员。他们使用聊天机器人在X上创建账户简介，翻译中文和英文之间的通信，甚至创建了针对一位美国参议员的联邦任命的消息。

其他国家的团体也滥用了OpenAI的工具

除了中国行动外，报告还指出俄罗斯和伊朗行为体也试图利用ChatGPT进行选举相关的影响活动，呼应了关于生成式AI在塑造公众舆论中作用的担忧。

在菲律宾，一个商业营销机构与垃圾邮件运动有关联，而与柬埔寨有关联的招聘骗局也浮出水面。该公司还标记了另一个与朝鲜利益有关的就业计划。

所有这些威胁都与今年2月的一份先前报告相吻合，当时OpenAI发现了一个与中国有关联的监视计划。据报道，该运动实时监视西方抗议活动，向中国安全机构提供摘要，ChatGPT促进了从代码调试到起草监控软件销售推销的所有工作。

Nimmo表示，大多数这些行动已被发现并制止，尽管它们似乎使用了复杂的工具。

“先进的AI并不一定转化为更有效的结果，”他观察到。事实上，OpenAI的定期威胁报告表明，虽然生成模型可以加速内容创建，但它们并不能保证真正的影响力或广泛的传播。

作为对这些发现的回应，OpenAI继续完善其监控和执行机制。该公司禁止与检测到的行动有关的账户，并删除所有涉及创建恶意软件、自动化政治消息或误导性内容的账户。

在最近一轮行动中，OpenAI删除了发布与中国相关的政治争议账户，包括对巴基斯坦活动人士的不实指控，以及对特朗普关税政策的评论。

尽管OpenAI取得了成功，但该公司也承认生成式AI的双刃剑性质，既是创新的工具，也是虚假信息的工具。