Anthropic首席执行官称DeepSeek在关键的生物武器数据安全测试中表现“最差”

Anthropic的首席执行官达里奥·阿莫代在DeepSeek的R1模型中发现了一个更危险弱点，这可能会让消费者重新考虑使用该聊天机器人。他声称该聊天机器人可以生成与生物武器相关的信息，这在不久的将来可能是危险的。

在一次采访中，阿莫代表示，DeepSeek在Anthropic的安全测试中产生了关于生物武器的不寻常信息。在谈论这家AI初创公司的表现时，他提到它是“我们测试过的几乎所有模型中最差的……它完全没有阻止生成此类信息的任何障碍。”

Anthropic定期测试不同的AI模型，以评估其对国家安全的潜在风险。他们通过检查模型是否能生成Google或教科书中不易获得的生物武器相关信息来进行测试。

此外，CISCO也成功破解了DeepSeek R1，没有任何失败。这与o1等其他高级类型不同，后者利用其保护功能阻止大多数攻击。

然而，阿莫代表示，这种弱点目前并不构成威胁。他还提到，除非有明确的危险证据，否则有充分的理由继续改进它。他敦促工程师和公司真正关注AI安全。DeepSeek已经在一些国家面临敌意，如意大利。

另一方面，AWS和微软等公司已宣布将R1添加到其云服务中。有些人可能认为这是公司学习的一部分，而其他人可能会更认真地对待。目前还没有回应或对新发现的强烈反对。 

美国AI领先——达里奥·阿莫代

据Anthropic首席执行官称，“现在美国有三到五家公司，中国有一家公司。它们是否继续制造接近前沿的模型，取决于它们能获取多少芯片，以及能否以比现在大得多的规模获取芯片。”

DeepSeek将其廉价技术归因于在美国限制之前购买的Nvidia芯片。据阿莫代称，“出口管制从未真正旨在阻止DeepSeek或任何其他中国公司以数万枚芯片的规模获得芯片。”

他补充道，“我们有理由预期走私会发生。出口管制在防止大规模收购方面可以更成功——它们不能拥有一百万枚芯片，因为那在经济活动中相当于数百亿，接近1,000亿。”

DeepSeek声称使用了H100s的混合体，这是美国的标准芯片。他们使用了大约10,000枚。这意味着他们不应受到太大影响。

关于中国在芯片方面实现独立，特别是华为芯片，他说这需要10到15年。他补充道，“实际上，制造能与新的Nvidia B100相竞争的芯片将非常困难……我的感觉是，华为芯片不太可能在不久的将来达到与美国芯片相当的水平。”

阿莫代提出了对美国法律的担忧。他解释说，正在努力评估并可能限制AI系统的风险。

这包括对其危险性的担忧，例如个人滥用生物攻击，以及系统本身带来的风险。在过去一年中，美国通过了几项新法律。这引发了一个问题：DeepSeek的市场能否在美国生存？

此外，阿莫代赞扬了美国AI公司，他解释说它们合作良好。他说，他们都遵循相同的规则。OpenAI、Meta、Google和xAI都必须遵守美国法规。他说：“你可以知道你在进行必要的安全实践，其他人也会这样做。”

相反，他说，“我认为在美国和中国之间是不可能的。我们处于一种霍布斯式的国际无政府状态。”

阿莫代指出，“我知道美国政府正努力派遣代表团与中国讨论与AI安全相关的话题。我的理解是，显然我不是这些代表团的一部分，中方对此兴趣不大。”

美国议员希望禁止在政府设备上使用DeepSeek

DeepSeek即将因安全原因再次受到禁令打击。这次是由美国政府发起的。类似于TikTok的规则，美国两党团体提出了一项法律，禁止在政府设备上使用中国AI应用DeepSeek。

新泽西州民主党众议员乔什·戈特海默和伊利诺伊州共和党众议员达林·拉胡德提出了一项名为“禁止在政府设备上使用DeepSeek法案”的法案。 

这项法案将使联邦工作人员在政府拥有的设备上使用中国AI应用成为非法。他们指出，中国政府可能利用该应用进行间谍活动和传播虚假信息。

戈特海默说，“中国共产党已明确表明，它将利用其手中的一切工具来破坏我们的国家安全，散布有害的虚假信息，并收集美国人的数据……我们不能冒中国共产党渗透我们政府官员设备并危及我们国家安全的风险。”