AI语言模型的进步引发对生物恐怖主义和生物武器的担忧

人工智能的快速发展导致了科学和医疗保健领域的许多突破，以更好的方式革命化了各个领域。然而，它也引发了对潜在滥用的严重担忧，特别是在生物恐怖主义和生物武器的背景下。臭名昭著的日本邪教Aum Shinrikyo试图使用肉毒杆菌毒素进行生物恐怖袭击的案例，说明了获取当代AI语言模型可能会增加毁灭性生物恐怖主义事件的风险。

像ChatGPT这样的大型语言模型和AI驱动的生物学设计工具可能成为威胁倍增器，使恶意行为者能够获取双重用途的科学知识，并加速危险生物制剂的开发。随着AI与生物学交叉点的日益普及，必须采取紧急措施来加强生物安全和AI治理。

AI语言模型在生物恐怖主义中的威胁

像ChatGPT这样的大型语言模型提供有关潜在危险病原体和生物武器信息的容易程度是一个主要担忧。麻省理工学院最近的一项演习表明，在一小时内，ChatGPT指导非科学学生了解四种潜在的流行病病原体以及如何在不被察觉的情况下获取遗传物质。信息传播可能会赋予恶意行为者探索生物武器而不具备必要专业知识的能力。

降低隐性知识的门槛

虽然AI语言模型无法提供实践经验，但它们可以降低创建生物制剂所需的隐性知识门槛。随着AI系统的不断进步，它们可能会促进科学的自动化和生物武器的秘密开发，从而减少此类项目中对许多科学家的需求。

生物设计工具的作用

像 AlphaFold2 和 RFdiffusion 这样的专用 AI 工具正在不断拓展生物设计能力的边界。虽然它们有望在医学领域带来重大进步，但也可能通过使创建具有前所未有的特性的高度危险病原体成为可能，从而加剧生物风险。此类工具可能会挑战现有的控制危险毒素和病原体获取的措施，因为它们生成的具有危险特性的病原体不受传统筛查方法的覆盖。

强制基因合成规则

普遍的基因合成筛查对于缓解人工智能与生物学交叉领域产生的风险至关重要。这涉及对订单和客户进行筛查，以确保只有合法的研究人员才能获取受控代理的遗传物质。对基因合成提供商和其他关键服务提供商实施强制性的基线筛查，对于防止利用供应链安全中的弱点是必要的。

人工智能治理的必要性

针对人工智能的干预措施对于管理大型语言模型和生物设计工具的风险至关重要。发布前的模型能力评估可以确保在公开发布时不存在危险功能。通过结构化访问方式发布模型，而不是开源，允许持续更新安全措施。政策制定者必须认真考虑谁应该获得双重用途科学能力的访问权限，并考虑来自不同学科、人口统计群体和地理区域的多样化声音的意见。

在促进合法科学研究和防止危险知识传播之间取得平衡至关重要。像 ChatGPT 这样的语言模型的公共版本可能会选择不提供创建危险病原体的详细指令。同时，可以为经过适当培训和批准的合法科学家实施专门的访问方法。

人工智能与生物学的融合对科学和医疗保健具有巨大的积极影响潜力。然而，同样的进步也带来了严重的风险，特别是涉及生物恐怖主义和生物武器的问题。随着人工智能语言模型和生物设计工具变得越来越容易获得，迫切需要采取措施加强生物安全和治理。实施强制性的基因合成筛查、进行模型能力的发布前评估，并确保为合法科学家提供差异化的访问方法，是应对这些新兴挑战的关键步骤。政策制定者的迅速行动不仅可以提高安全性，还能为负责任地利用人工智能的好处铺平道路。