若任由 rogue 元素操控，人工智能模型可能带来风险

拜登政府下的商务部正致力于推出新的合规举措，以进一步限制开源或闭源人工智能模型的出口。该举措旨在保护美国利益及人工智能技术免受俄罗斯和中国的威胁，并将补充过去两年为阻止中国获取最新先进计算机芯片所采取的措施。

据路透社援引三位知情人士报道，美国的努力旨在为大语言模型的核心软件设置更严格的防护壁垒，这些模型是支撑ChatGPT等应用的基础。尽管新闻机构称私营部门和政府的研究人员担忧美国对手可能利用该技术发动激进的网络攻击并开发生物武器，但中国驻美大使馆反对这一举动，将其描述为单边霸凌和经济胁迫。

深度伪造是一种致命的虚假信息武器

美国所担忧的威胁多种多样，且可能被受国家支持的非国家行为体利用。深度伪造（Deepfakes）可作为一种有效的宣传武器，因为它们涉及由人工智能工具生成的逼真但虚假的视频。 

此类视频已在社交媒体上出现。虽然这类媒体内容在过去几年中已存在，并借助动画和渲染软件开发而成，但生成式人工智能工具使其任何人都能轻松制作，而不良行为体比以往任何时候都更容易利用它们来操纵公众对敏感问题的看法，尤其是在选举活动期间。

YouTube、Facebook 和 Twitter 等社交媒体平台已采取措施遏制深度伪造，但随着技术的发展，开发和发布这些内容的策略也在不断演变。目前，来自微软和 OpenAI 等公司的工具可用于创建用于传播虚假信息的内容。

研究人员更担心的是，AI 模型可能泄露用于开发生物武器的信息。兰德公司、Gryphon Scientific 以及美国情报机构、学术专家和政策研究机构的担忧在于，AI 技术可能被落入敌对分子手中。

Gryphon 的研究指出，大型语言模型（LLMs）能够生成专家级乃至博士水平的专业知识，这些知识可被用于开发具有大流行潜力的病毒，并可能被非国家行为体用作生物武器。

AI 模型加剧网络攻击

美国国土安全部也表达了担忧：针对铁路和管道等关键基础设施的网络攻击，可能借助 AI 通过开发新工具来实施，从而发动规模更大、复杂度更高且速度更快的网络攻击。

该机构还表示，中国正在开发可用于恶意软件攻击的人工智能软件，同时也在研发可能破坏该国网络防御的 AI 技术。

今年2月，微软发布了一份报告，指出其已识别出一些参与黑客活动的网络组织，这些组织正利用大语言模型（LLM）完善其黑客行动，并与俄罗斯军事情报、朝鲜和中国政府以及伊朗革命卫队存在关联。

该公司宣布禁止受国家资助的网络团体使用其人工智能产品和服务。周三，一群政界人士提出了一项法案，将帮助拜登政府加强对人工智能模型出口的管控，以防止其落入潜在对手手中。

该议题的专家指出，华盛顿正试图避免过于严苛的监管，以免扼杀创新；他们希望在推动创新的同时，寻求应对人工智能相关风险的可行方案。他们还强调，若对人工智能发展实施严格管制，将为海外竞争对手创造真空，并对基础设施、国家安全及药物研发等领域产生负面影响。