拜登政府领导下的商务部正计划推出一项新的合规举措，以进一步限制开源或闭源人工智能模型的出口。此举旨在保护美国利益和人工智能技术免受俄罗斯和中国的侵害，并将与过去两年为阻止中国获取最新先进计算机芯片而采取的措施相辅相成。.
据路透社援引三位知情人士的消息报道，美国正试图为ChatGPT等应用程序的核心软件设置更严格的保护屏障。该新闻机构称，私营部门和政府的研究人员担心美国的对手可能会利用这项技术发动网络攻击和研发生物武器，但中国大使馆反对这一举措，并将其描述为单方面欺凌和经济胁迫。.
深度伪造技术是一种致命的虚假信息武器。
美国所担忧的威胁有很多，而且这些威胁可能被受国家支持的非国家行为体所利用。深度伪造技术可以作为一种有效的宣传武器，因为它利用人工智能工具制作出逼真但虚假的视频。.
这类视频已经在社交媒体上出现。虽然此类媒体内容在过去几年中已经存在，并借助动画和渲染软件制作而成，但生成式人工智能工具的出现使得任何人都能轻松制作，不法分子也比以往任何时候都更容易利用它们来操纵公众舆论，尤其是在选举活动期间，尤其是在敏感议题上。.
YouTube、Facebook 和 Twitter 等社交媒体平台已经采取措施遏制深度伪造内容，但随着技术的发展，制作和发布深度伪造内容的策略也在不断变化。目前，微软和 OpenAI 等公司的工具可以被用来制作传播虚假信息的内容。.
兰德公司和格里芬科学公司的研究人员表示，更令人担忧的是，人工智能模型可能会泄露信息，用于开发生物武器。美国情报机构、学术专家和智库也担心人工智能可能会落入不法分子手中。.
Gryphon 的研究dent，LLM 可以培养出专家级和博士级的知识，这些知识可以帮助开发具有大流行能力的病毒，而这些病毒可能被非国家行为体用作生物武器。.
利用人工智能模型增强网络攻击
美国国土安全部也表达了担忧，认为利用人工智能开发的新工具可以对铁路和管道等关键基础设施发动网络攻击，这些新工具能够更大规模、更复杂、更快速地发起网络攻击。.
该机构还表示，中国正在开发可用于恶意软件攻击的人工智能软件，并且还在研发可能破坏该国网络防御的人工智能技术。.
早在二月份，微软就发布了一份报告，其中指出，它已经dent了一些参与黑客活动的网络组织，这些组织正在利用LLM完善其黑客攻击活动，并且这些组织与俄罗斯、朝鲜和中国政府的军事情报部门以及伊朗革命卫队有关联。.
该公司宣布禁止由国家资助的 网络组织 使用其人工智能产品和服务。周三，一群政治家提出一项法案，旨在帮助拜登政府加强对人工智能模型出口的管控，以防止其落入潜在对手之手。
该 领域 表示，华盛顿正努力避免制定可能扼杀创新的过度监管措施，同时致力于促进创新并寻求应对人工智能相关风险的解决方案。他们还强调，严格限制人工智能的发展将为海外竞争对手创造机会，并对基础设施、国家安全和药物研发等领域产生负面影响。
