最新消息
为您精选

白宫召集 OpenAI、谷歌、Meta 和 Anthropico 就人工智能安全测试进行磋商

经过汉娜·科利莫尔汉娜·科利莫尔
阅读时长:2分钟 发布
白宫召集 OpenAI、谷歌、Meta 和 Anthropico 就人工智能安全测试进行磋商
  • 白宫邀请 Meta、Anthropic、OpenAI 和 Google 于周二举行会议,讨论对美国最先进的人工智能模型进行自愿安全测试。. 
  • 就在几天前,Anthropic 和 OpenAI 披露了他们的系统入侵了外部公司。.  
  • 这些“自愿”测试将为前沿模型部署前必须达到的标准设定依据。.

 

特朗普白宫已邀请 Meta、Anthropic、OpenAI 和 Google 于周二访问华盛顿特区,就美国最佳人工智能模型的自愿政府测试举行会议。.  

此前,四位受邀者中有两位承认他们的AI系统入侵了外部公司的网络。. 

旨在评估模型被黑客攻击潜力的测试

周一,白宫一位官员表示,特朗普政府已经确定了一项自愿计划的具体细节,该计划旨在衡量美国tron的AI模型能够入侵计算机的程度。.  

这项演习始于 6 月,当时特朗普dent 要求其政府起草一套测试方案,旨在检验美国先进机型的进攻性网络技能。. 

这位官员在声明中遗漏的内容与他所说的内容同样重要。特朗普政府选择不透露测试中使用的指标、测试结果的报告方式,以及测试结果是否会公​​开。. 

这些问题至关重要,尤其是对于那些希望获得客户信任的人工智能实验室而言。.  

导致召开紧急会议的违规行为

这并非巧合。就在上周,Anthropic公司宣布,其模型在受控网络安全测试进行期间入侵了三家公司的系统。几天前,OpenAI公司宣布,其一款人工智能代理从测试环境中逃脱,并入侵了人工智能开发平台Hugging Face的系统。.

OpenAI 将此事件dent 为“dent的网络dent”,该事件在华盛顿引起了 ripple。. 

OpenAI 首席执行官 Sam Altman 上周访问了白宫,讨论了 自愿测试 和他公司尚未发布的模型。 

一个来得正是时候的框架

特朗普的行政命令将8月1日定为政府公布其自愿性人工智能框架的最后期限。OpenAI和Anthropic为此联合发布了一份提案,他们认为该提案能够创造一个公平的竞争环境,无论采用开放权重还是封闭权重,最优秀的系统都将面临同等程度的审查。.

考虑到特朗普第二届政府一开始就采取了反监管立场,因此推动更严格监管的决定令人惊讶 。 

然而,在欧洲,像克里斯·卡纳尔这样的官员 认为 ,持久的测试计划首先要评估具体的威胁场景,例如生物武器或对政府数据库的攻击,同时使用独立的dent 系统,而不是由公司评估自己的工作。

与此同时,国会正在起草更严格的法规。

自愿测试只是整个问题的一部分。众议员特德·刘和纳撒尼尔·莫兰于7月23日提出了 两党共同支持的《人工智能终止开关法案》 。该法案授权国土安全部强制美国最大的人工智能实验室关闭被认为过于危险的模型。 

如果这些实验室拒绝,它们每天将被处以 2000 万美元的罚款。. 

该法案最终能否成为法律还有待观察。然而,周二的会议将是迄今为止最早的迹象,表明人工智能实验室愿意在多大程度上向政府的要求做出让步。.   

不要只是阅读加密货币新闻,要理解它。订阅我们的新闻简报, 完全免费

常见问题解答

哪些公司受邀参加了白宫人工智能会议?

Meta 和 Anthropic 已确认受邀参加,OpenAI 和 Google 也被邀请参加周二的会议。.

为什么特朗普政府现在要测试人工智能模型?

此前有消息披露,Anthropic 的模型在安全测试期间入侵了三家公司,而 OpenAI 的一个代理程序逃逸出测试环境并入侵了 Hugging Face,这引发了人们对功能强大的模型可能被用于网络攻击的担忧。.

政府自愿性测试测量的是什么?

这些测试旨在评估美国最先进的人工智能模型的黑客能力,但白宫尚未透露所使用的指标、结果的报告方式,以及是否会公开这些结果。.

分享这篇文章

免责声明:本页面提供的信息并非交易建议。Cryptopolitan.com对任何基于本页面信息进行的投资概不负责。我们tron您在做出任何投资决定前进行独立dent /或咨询合格的专业人士。Cryptopolitan研究

汉娜·科利莫尔

汉娜·科利莫尔

汉娜是一位作家兼编辑,在加密货币领域拥有近十年的博客写作和活动报道经验。在 Cryptopolitan,汉娜负责新闻版块,报道和分析 DeFi、RWA、加密货币监管、人工智能和前沿科技行业的最新动态。她毕业于阿卡迪亚大学,获得工商管理学位。.

更多…新闻