AI对生物威胁的实验产生不确定的结果

- AI实验表明,聊天机器人对规划生物滥用行为的帮助有限。
- 相关研究存在局限性和争议,但仍需进一步开展研究。
- 这些发现提供了有益见解,但尚不足以得出定论,揭示了人工智能在生物安全领域所扮演的复杂角色。
近几个月来,人们担心人工智能(AI)与生物威胁之间的潜在交集,担心AI可能促进危险生物武器的开发。然而,尽管专家和立法者给予了大量关注,但尚未报告涉及AI或AI驱动聊天机器人的生物滥用案例。
实验发现:深入观察
兰德公司(RAND Corporation)和OpenAI进行的两项著名实验旨在评估AI,特别是像GPT-4这样的大型语言模型,对生物威胁开发的影响。虽然两项研究都得出结论,访问聊天机器人并没有显著增强生成生物滥用计划的能力,但他们的发现附带重要的限制条件。
兰德公司和OpenAI的研究都采用了特定的方法来评估聊天机器人在生物威胁开发方面的潜在影响。兰德利用红队方法,招募小组人员利用生物学制定邪恶结果的计划。与此同时,OpenAI让参与者单独工作,以确定假设的生物滥用场景所需的关键信息。
然而,尽管做出了这些努力,必须承认研究设计中固有的局限性。从这些实验中得出的结论应被视为初步见解,而不是对威胁格局的确定评估。
统计分析争议
OpenAI的报告尤其引发了辩论,因为其统计分析方法。批评者质疑分析过程中应用的某些校正的适当性,这可能会影响结果的解释。如果没有这些校正,研究结果可能表明,访问聊天机器人与创建生物威胁的准确性增加之间存在显著关联。
两项研究都依赖第三方评估者为参与者回答打分,将那些有聊天机器人访问权限的人与没有的人进行比较。尽管进行了详尽的分析,但两个研究团队都没有发现两组之间存在统计学上的显著差异。然而,重要的是要注意,统计显著性在很大程度上受样本量的影响,这表明即使微小的差异,在参与者数量更多的情况下也可能产生显著结果。
影响和未来方向
虽然兰德和OpenAI的实验提供了关于AI在生物威胁开发中潜在角色的宝贵见解,但它们的局限性强调了对进一步研究的需求。解决围绕AI相关生物威胁的更大问题对于指导未来的实验和旨在减轻风险的政策制定工作至关重要。
不要只是阅读加密货币新闻,要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

James Kinoti
加密货币爱好者 James 热衷于分享金融科技、加密货币以及区块链和前沿技术领域的知识。加密货币行业的最新创新、加密游戏、AI、区块链技术以及其他技术是他关注的重点。他的使命是紧跟各行业变革性应用的步伐。














