OpenAI报告称，中国团体越来越多地恶意使用ChatGPT。

OpenAI透露，其工具被秘密使用的情况激增，尤其与一些中国团体有关，这些团体出于恶意目的利用其ChatGPT平台。.

自 ChatGPT 于 2022 年 11 月推出并迅速取得成功以来，人们开始担忧其生成类人音频、文本、图像和视频的能力可能带来的潜在后果。OpenAI 也 定期 发布报告，揭露其平台上的任何恶意活动，例如为网站创建虚假内容。

OpenAI 捣毁了 10 个滥用其工具的独立活动

这家总部位于旧金山的公司周四发布的一份报告显示，该公司近期捣毁了十起利用其人工智能工具进行的犯罪活动。其中四起是由与中国有关联的组织策划的，而规模较小的犯罪活动则与其他国家有关。.

据 Ben Nimmo，这些与中国有关的行动在多个在线平台上部署了多种策略。

“我们正在观察不断扩大的工具包，”他告诉记者。.

“有些活动融合了影响力行动、社会工程和监控手段，其平台涵盖了从 TikTok 和 X 到 Reddit 和 Facebook 等多个平台。”

尼莫。.

其中一个关键案例名为“Sneer Review”，它利用 ChatGPT 以英语、中文和乌尔都语发布简短的帖子和评论。这些内容涵盖了诸如美国国际开发署解散等话题，内容时而赞扬时而批评这一决定，以及对一款被解读为攻击中国执政党的台湾策略电子游戏的批评。

根据 OpenAI 的报告，在大多数情况下，该操作不仅创建了原创帖子，还创建了回复，使其看起来像是一场“真正的”辩论。同一批人还撰写了一篇长文，声称这款游戏引发了公众的强烈抗议。.

“Sneer Review”还利用ChatGPT撰写内部文件和绩效评估，详细记录了活动执行的每一个步骤。OpenAI的分析师发现，实际的社交媒体行为与这些自我评估高度吻合，凸显了人工智能如何能够简化一线影响力和后台管理。.

报告还显示，另一个与中国有关联的网络专注于情报收集，他们伪装成记者和地缘政治评论员。他们利用聊天机器人创建X网站上的账户简介，翻译中英文交流内容，甚至还伪造信息发送给一位美国参议员，内容涉及联邦提名。.

其他国家的团体也滥用了OpenAI的工具。

除了中国方面的行动外，该报告还指出， 俄罗斯和伊朗 方面也试图利用 ChatGPT 对选举施加影响，这反映了人们对生成式人工智能在塑造公众舆论方面所起作用的担忧。

在菲律宾，一家商业营销公司被曝与垃圾邮件活动有关，同时，一起与柬埔寨有关联的招聘骗局也浮出水面。该公司还举报了另一起与朝鲜利益相关的招聘活动。.

所有这些威胁都与OpenAI在2月份发布的一份报告不谋而合，该报告揭露了一项与中国有关联的监控计划。据报道，该计划实时监控西方抗议活动，并将监控结果汇总提供给中国安全机构，而ChatGPT则协助完成了从代码调试到撰写监控软件销售文案等所有工作。.

尼莫表示，尽管这些行动似乎使用了复杂的工具，但大多数行动都被发现并制止了。.

他指出：“先进的人工智能并不一定能带来更有效的结果。” 事实上，OpenAI 定期发布的威胁报告表明，虽然生成模型可以加速内容创作，但它们并不能保证真正的影响力或广泛的 trac。.

针对这些发现，OpenAI持续改进其监控和执法机制。该公司会封禁与已检测到的犯罪活动相关的账户，并移除所有参与创建恶意软件、自动发送政治信息或误导性内容的账户。.

在最新一轮行动中，OpenAI 删除了发布与中国相关的地缘政治争议的账户，包括对巴基斯坦活动人士的虚假指控以及对特朗普 关税 政策的评论。

尽管 OpenAI 取得了成功，但该公司也承认生成式人工智能具有双刃剑的性质，它既是创新的工具，也是散布虚假信息的工具。.