人工智能公司Anthropic和OpenAI正在采取切实措施应对其产品日益增长的风险。Altman的公司发布了专供专家使用的模型，以帮助防御易受攻击的系统；而Anthropic现在要求用户在访问某些功能之前进行身份验证。.
人工智能模型最初向公众发布时，被用于将文本转换成吉卜力风格的艺术作品和编写购物清单，但人工智能很快就成为了国家安全问题。.
为什么 Anthropico 要我出示驾照？
黑客已经开始利用人工智能绕过防御系统，迫使Anthropic 公司推出强制性dent验证流程。用户现在需要提供实体身份证件（护照或驾照）和一张实时自拍照才能使用特定功能。
他们的合作伙伴 Persona 负责处理数据。Anthropic 已澄清，不会使用用户身份dent来训练其人工智能模型。该公司还澄清，验证是必要的，目的是“防止滥用、执行我们的使用政策以及履行法律义务”。
如果用户未能通过测试或试图从不支持的地点使用系统，其帐户可能会被封禁。.
此次突然打击行动的原因是 Anthropic 承认他们的新型号 Claude Mythos Preview 具有极其可怕的黑客能力。.
在博客文章，该公司表示，Mythos Preview“能够在用户指示下，识别并利用每个主要操作系统和每个主要网络浏览器中的零日漏洞” dent
Anthropic公司的工程师们没有接受过任何正规的安全培训，他们委托Mythos公司连夜查找远程代码执行漏洞。据该公司称，他们“第二天早上醒来就发现了一个完整的、可用的漏洞利用程序”。
新型人工智能模型真的危险吗？
英国人工智能安全研究所 (AISI)发布了一份评估报告，证实 Mythos 代表了网络能力的“提升”。
Anthropic 的内部博客文章披露了该模型性能方面最令人震惊的细节。Mythos 在收到初始提示后，在以安全性著称的操作系统 OpenBSD 中发现了一个存在了 27 年的漏洞。.
Mythos 还发现 FFmpeg（几乎所有主流服务都在使用的视频工具）中存在一个 16 年前的漏洞。该工具已经通过一种称为模糊测试的技术，使用数百万个随机输入进行了测试，但 Mythos 仍然在 H.264 编解码器中发现了一个可以追溯到 2003 年提交的漏洞。.
除此之外，Mythos 还发现了 FreeBSD 的 NFS 服务器中一个存在了 17 年的漏洞，并编写了一个漏洞利用程序，允许互联网上任何未经身份验证的用户获得对服务器的完全 root 访问权限。.
该公司证实，Mythos Preview“完全自主地dent并利用了这一漏洞”。整个过程按API定价计算成本不到2000美元，耗时不到一天。.
Mythos 在所有主流浏览器中都发现了漏洞。其中一个案例中，它编写了一个浏览器漏洞利用程序，该程序将四个漏洞串联起来，其中包括 JIT 堆喷射漏洞，从而绕过了浏览器的渲染器沙箱和操作系统的沙箱。.
Anthropic公司在开源和闭源软件中发现了“数千个高危和严重漏洞”。其中超过99%的漏洞尚未得到修复。.
OpenAI应对安全风险的方法
尽管存在这些问题， OpenAI还是宣布发布了GPT-5.4-Cyber ，与出于安全原因拒绝协助黑客攻击的标准模型不同，它“降低了合法网络安全工作的拒绝门槛”。
GPT-5.4-Cyber 无需访问源代码即可分析已编译的软件，从而检测恶意软件和漏洞，但其访问权限仅限于 OpenAI 的“网络安全可信访问”（TAC）计划。只有经过审核的网络安全专家、研究人员以及负责保护关键系统的组织才能使用它。.
Anthropic 的 Project Glasswing 还允许亚马逊 ($AMZN)、苹果 ($AAPL) 和谷歌 ($GOOGL) 等公司的防御人员有限地访问关键基础设施，以便在攻击者利用它之前修复它。.
与此同时，Anthropic建议立即安装安全更新，而不是按月安装。.
