OpenAI报告发现：国家黑客未能利用AI获得优势

科技公司和政府官员 维持 警告人工智能可能成为外国敌人的危险武器，但新证据 讲述 了不同的故事。最近的报告显示，国家赞助的团体正在使用与普通互联网用户相同的公开可用工具，并且经常同样感到挣扎。

OpenAI最近分享了有关政府关联团体试图利用其平台的细节。

最引人注目的案例来自一场中国影响力运动，该运动因一名中国执法官员像写私人日记一样使用ChatGPT而意外曝光。该官员在日记中记录了针对居住在其他国家的中国批评人士的行动。

据OpenAI称，该运动涉及数百名操作员和数千个虚假社交媒体账户。

该行动试图冒充美国移民官员，通过虚假声称其公开声明违反美国法律来恐吓一名异议人士。在其他案例中，操作员使用伪造的文件，声称来自县法院，试图让批评者的社交媒体账户被删除。

虚假讣告和伪造文件是骚扰运动的一部分

他们制作了虚假的讣告和墓碑照片，以传播关于一名异议人士死亡的虚假谣言。这些谣言实际上出现在2023年的网络上，中文《美国之音》文章证实了这一点。OpenAI调查主管Ben Nimmo称该effort industrialized骚扰是针对中国共产党批评者的，通过多个渠道进行。

使用ChatGPT作为记录工具最终暴露了该行动。ChatGPT作为操作员追踪秘密网络的日记本，而其他工具生成了大部分实际内容，这些内容通过社交媒体传播。OpenAI在发现该活动后禁止了该用户。

OpenAI调查人员将ChatGPT用户的描述与实际在线活动相匹配。该用户描述通过创建虚假讣告和墓碑照片来伪造中国异议人士的死亡，并发布到网上。

在另一起案件中，ChatGPT用户要求系统制定一个计划，通过煽动对美国关税的愤怒来损害即将上任的日本首相高市早苗的声誉。ChatGPT拒绝了。但在10月下旬，当高市早苗掌权时，hashtags出现在一个流行的日本平面艺术家论坛上，攻击她并抱怨关税。

OpenAI的报告还涵盖了来自柬埔寨的几起诈骗行动，这些行动利用该平台进行浪漫和投资诈骗， plus 还有与俄罗斯有关联、针对阿根廷和非洲的影响力运动。

微软报告显示类似的基本使用模式

微软与 OpenAI 联合发布了一份报告，考察来自俄罗斯、朝鲜、伊朗和中国的国家行为者如何尝试使用大型语言模型来支持网络攻击行动。两家公司通过关闭账户，阻止了五个国家附属行为者的努力。

微软报告 found these actors mainly wanted to use services for simple jobs like searching publicly available information, translating content, fixing coding errors, and running basic programming tasks. No major or new attacks using the models have been found so far.

这种恐惧与现实之间的差距出现在华盛顿与北京围绕该技术控制权的激烈竞争期间。它在军事和经济事务中扮演的角色已成为一场主要的争夺。五角大楼最近告知另一家公司Anthropic，it必须在周五之前移除其模型中的某些安全功能，否则将面临失去国防合同的风险。

微软表示正在制定原则，以降低国家集团和犯罪组织滥用这些工具带来的风险。这些原则包括发现并阻止不良用户，告知其他服务提供商，与其他团体合作，并保持透明。