最新消息
为您精选
每周
保持领先

最优质的加密货币资讯直接发送到您的邮箱。.

Anthropico首席执行官称DeepSeek在一项关键的生物武器数据安全测试中表现“最差”。

经过弗洛伦斯·穆查伊弗洛伦斯·穆查伊
阅读时长:4分钟
Anthropico首席执行官称DeepSeek在一项关键的生物武器数据安全测试中表现“最差”。
  • Anthropic 的首席执行官 Dario Amodei 发现 DeepSeek 存在一个漏洞——它可以生成与生物武器相关的信息,这在不久的将来可能会很危险。.
  • 阿莫迪表示 ,美国政府一直在派遣代表团与中国讨论与人工智能安全相关的话题,但中国并未表现出兴趣。
  • 美国立法者提议制定 一项法律,禁止在政府设备上使用 DeepSeek。

Anthropic 的首席执行官 Dario Amodei 发现 DeepSeek 的 R1 模型存在一个更危险的缺陷,这可能会导致消费者重新考虑是否使用该聊天机器人。他声称,该聊天机器人可以生成与生物武器相关的信息,这在不久的将来可能会造成危险。.

在一次 采访中表示, DeepSeek在Anthropic公司的一项安全测试中生成了关于生物武器的罕见信息。在谈到这家人工智能初创公司的表现时,他提到,它是“我们测试过的所有模型中最差的……它生成这些信息时完全没有任何障碍。”

人因工程公司定期测试不同的人工智能模型,以评估它们可能对国家安全构成的风险。他们通过检查模型是否能够生成在谷歌或教科书中不易获取的生物武器信息来进行评估。.

Anthropico首席执行官表示,DeepSeek在一项关键的生物武器数据安全测试中表现“最差”。.
LLM 的攻击成功率。来源:思科

此外, 思科 还成功入侵了DeepSeek R1,且未出现任何故障。这与其他高级型号(例如o1)不同,后者凭借其保护功能可以抵御大多数攻击。

然而,阿莫迪表示,目前这个缺陷并不构成威胁。他还提到,除非有明确的危险证据,否则就有充分的理由继续改进它。他敦促工程师和公司真正重视人工智能的安全性。DeepSeek已经在一些国家,例如 意大利,面临敌意。

另一方面,AWS 和微软等公司已宣布将 R1 版本添加到其云服务中。有些人可能将其视为公司学习的一部分,而另一些人则可能对此更加重视。目前尚未出现任何针对这一新发现的回应或负面反应。. 

美国人工智能领先——达里奥·阿莫迪

据 Anthropico 首席执行官称,“目前美国有三到五家公司,中国有一家公司。他们能否继续生产接近前沿技术的芯片,取决于他们能获得多少芯片,以及能否比现在更大规模地获得芯片。”

DeepSeek之所以能采用廉价技术,是因为他们 英伟达芯片 。Amodei表示:“出口管制措施的真正目的并非阻止DeepSeek或其他中国公司获得他们当时拥有的数万颗芯片。”  

他补充说:“我们应该预料到走私会发生。出口管制在阻止大规模采购方面可能更有效——他们不可能拥有像一百万个芯片那样的走私,因为这很容易造成数百亿美元的经济损失,接近1000亿美元。”

DeepSeek声称他们使用了H100芯片 这是美国的标准芯片。他们大约使用了1万颗H100芯片。这意味着他们受到的影响应该不大。

关于中国能否实现芯片自主化,尤其是摆脱对华为芯片的dent ,他表示这需要10到15年的时间。他还补充道:“实际上,要制造出能与英伟达新款B100芯片相媲美的芯片非常困难。[…]我的感觉是,华为芯片不太可能在短期内达到与美国芯片相近的水平。”

阿莫迪对美国的法律表示担忧。他解释说,目前正在努力评估并尽可能限制人工智能系统的风险。.

这包括对其危险性的担忧,例如个人滥用(例如用于生物攻击)以及系统本身带来的风险。过去一年,美国出台了多项新法律。这就引出了一个问题:DeepSeek在美国的市场能否生存下去?

此外,阿莫迪还赞扬了美国的人工智能公司,并解释说它们合作得很好。他说,它们都遵循同样的规则。OpenAI、Meta、 谷歌 和xAI都必须遵守美国的法规。他表示:“你可以确信,你正在采取必要的安全措施,其他人也会这样做。”

相反,他说:“我认为美中之间不可能实现这一点。我们正处于一种霍布斯式的国际无政府状态。”

阿莫迪透露:“我知道美国政府曾努力派遣代表团与中国就人工智能安全相关议题进行磋商。据我了解(当然,我本人并未参与这些代表团),中方对此并没有太大兴趣。”

美国立法者希望禁止在政府设备上使用DeepSeek软件

出于安全考虑,DeepSeek即将再次遭到封禁。这次的封禁者是美国政府。与 TikTok的 禁令类似,美国一个两党小组正在提议立法,禁止在政府设备上使用这款中国人工智能应用DeepSeek。

来自新泽西州的民主党众议员乔什·戈特海默和来自伊利诺伊州的共和党众议员达林·拉胡德提出了一项名为“禁止对政府设备进行深度搜索法案”的法案。 

这项法案将禁止联邦雇员在政府拥有的设备上使用 中国人工智能应用程序 。他们指出,中国政府可能利用该应用程序进行间谍活动和散布虚假信息。

戈特海默表示:“中国共产党已经非常明确地表明,它将利用一切手段破坏我们的国家安全,散布有害的虚假信息,并收集美国人的数据。[…]我们绝不能冒着让中共渗透到我们政府官员的设备中,危及我们国家安全的风险。”

还在让银行保留最好的部分吗?观看我们的免费视频,了解如何 成为自己的银行

免责声明: 提供的信息并非交易建议。Cryptopolitan.com Cryptopolitan研究 对任何基于本页面信息进行的投资概不负责。我们trondentdentdentdentdentdentdentdent /或咨询合格的专业人士。

更多…新闻
深度 密码
学速成课程