在美国政府开始准备向主要机构开放其 Mythos 模型的一个版本后,Anthropic 距离联邦推广又近了一步。.
彭博社周四报道称,该计划目前正在进行中,尽管华盛顿内外的官员都担心,如果该工具得不到严格控制,可能会增加网络安全风险。.
Cryptopolitan 此前报道称,Mythos 仅限特定群体使用,且仅用于网络安全防御,而非广泛的商业用途。白宫管理和预算办公室 (OMB) 的联邦首席信息官格雷戈里·巴尔巴西亚 (Gregory Barbaccia) 在周二发给内阁部门官员的电子邮件中表示,OMB 正在设置保护措施,以便各机构能够开始使用 Mythos。.
据报道,邮件主题为“Mythos模型访问权限”,内容如下:
“我们正在与模型提供商、其他行业合作伙伴以及情报界密切合作,以确保在可能向各机构发布修改后的模型版本之前,已采取适当的防护措施和保障措施。”
白宫为Anthropic Mythos走向机构用途敞开了大门
就在各国财政部长、央行行长和监管机构齐聚华盛顿参加国际货币基金组织和世界银行春季会议之际,这一消息传来。会上,高级金融官员警告称,美国科技公司先进的人工智能技术可能会暴露贷款机构网络防御的薄弱环节,并给整个银行体系带来压力。.
英国央行行长兼金融稳定理事会主席安德鲁·贝利表示:“这对我们所有人来说都是一个非常严峻的挑战。它提醒我们人工智能领域发展速度有多快。”
安德鲁随后表示,世界各地的监管机构需要迅速评估 Anthropic 的 Claude Mythos Preview 可能对金融系统构成的网络风险。.
国际货币基金组织副总裁丹·卡茨表示:“从网络安全的角度来看,数字技术的演进带来了巨大的风险。这在未来几个月内必将成为国际议程上的重中之重。”
欧洲中央银行dent 克里斯蒂娜·拉加德也指出,Anthropic 和 Mythos 就是一个典型的例子,说明一个有用的工具如果落入坏人手中,就会变得危险。.
“我们看到 Anthropic 和 Mythos 的发展就是一个很好的例子,一家负责任的公司突然意识到,‘啊,这可能真的很好’,但如果落入坏人手中,后果可能不堪设想。”
全球官员敦促制定规则,而 Anthropic 则限制 Opus 4.7
本月早些时候,Anthropic 公司表示 Mythos 发现了“数千个高危漏洞,包括每个主要操作系统和网络浏览器中的一些漏洞”,之后一些官员呼吁采取协调一致的国际应对措施。
安特罗皮克公司还警告称,此类能力可能会迅速扩散,并可能落入不法分子之手。该公司表示,“此类能力很快就会扩散,甚至可能超出那些致力于安全部署它们的机构的掌控范围。”该公司补充道:“这对经济、公共安全和国家安全都可能造成严重后果。”
克里斯汀后来告诉记者,官员们希望有一个可以遵循的框架,但目前还没有真正的治理体系。她说:“每个人都渴望有一个运作框架。我认为目前还没有一个治理框架能够真正解决这些问题。我们需要在这方面努力。”
Anthropic公司英国、爱尔兰和北欧区负责人皮普·怀特表示,该模型的相关消息一经公布,高管们的兴趣便迅速高涨。皮普在接受采访时说:“我们深知这款产品的强大之处,因此我们为其设置了自身的安全保障和限制。”
周四,Anthropic公司还发布了Opus 4.7,这是一款专为提升软件工程任务性能而打造的新型号机器人。该公司表示,Opus 4.7能够处理一些以往需要更密切监控的编码工作,比旧型号更好地遵循指令,并能检查更高分辨率的图像,从而捕捉密集图表和复杂图片中的细节。.
尽管如此,Anthropic公司表示,Opus 4.7的性能不如Mythos,包括网络安全应用方面。该公司称,在训练过程中,他们测试了多种方法来“逐步降低”该模型的网络安全能力。.
来源:Pexels