最新新闻
为您推荐

美国上诉法院质疑xAI对加州AI透明度法的挑战

作者Nellius IreneNellius Irene 3 分钟阅读
  • 第九巡回上诉法院正在审议xAI阻止加州AI训练数据披露法的请求。
  • Rawlinson法官表示,该公司必须证明政府的要求是不合理的。
  • xAI的Grok机器人反复获取企业数据,且未提出任何请求或获得授权。

 

周三,美国联邦上诉法院审理了xAI阻止加州AI训练数据披露法的请求。在听证会上,位于旧金山的第九巡回上诉法院的法官们似乎对该公司提出的宪法抗辩持怀疑态度,但同时也向州政府律师施压,询问加州究竟能强制AI公司交出多少信息。

作为该州更广泛的人工智能监管举措的一部分,这项透明度法案要求生成式人工智能制造商公开分享其训练数据的概述。迄今为止,xAI 辩称该法侵犯了其受第一修正案保护的言论自由权利,并迫使其披露关于模型训练方式的专有细节。

xAI 的论点核心在于,要求公司发布有关其训练过程的信息是否构成强制言论。第一修正案通常保护个人和企业免受政府对表达的限制,但同时也引发了关于当局何时可以要求披露信息的疑问。

对于AI开发者而言,争议涉及平衡透明度与保护商业秘密及专有技术之间的关系。若加州胜诉,可能会使开发者更难在其他州挑战类似的披露要求。

Rawlinson 法官表示,xAI 需要证明该透明度法案是不合理的

早在今年三月,洛杉矶的一位联邦法官 Jesus Bernal 驳回了 xAI 暂停实施该州法律的请求,理由是该公司未能及早证明其在宪法主张上胜诉的可能性较大。从周三的听证会来看,上诉法院 出现 倾向于维持 Bernal 的决定。 

美国巡回上诉法院法官 Johnnie Rawlinson 告诉 xAI 律师 James Xi,为了论证该 法律违反了 第一修正案,该公司必须证明政府的要求是不合理的。

他甚至暗示,该州要求提供信息的决定可能是合理的。“政府希望公民事先了解输入到AI工具中的信息是什么,这难道不合理吗?”他问道。

尽管如此,法官们还是对xAI的主张表示了一定程度的认同,即该州可以强制其交出“无限”量的信息。 

7月初,骑士研究所就本案提交了法庭之友意见书。在该意见书中,他们警告称,大型科技公司开发者正在隐瞒关于生成式AI系统如何运作、如何构建以及如何影响人们所见信息的关键细节。 

该意见书进一步主张,旨在促进准确商业信息自由流通的披露要求应适用一种尊重的第一修正案审查标准。依据该标准,研究所认为,加州的法律服务于让公众知情这一州利益,且未对受保护的言论施加不当负担,因此xAI未能证明存在违宪行为。

xAI的Grok在未获任何请求或授权的情况下获取了企业数据 

第九巡回上诉法院的介入,是在xAI的Grok Bot出现新发现之后。

代理身份公司NewCore的新研究结果显示,xAI的Grok Bot在未收到任何请求或授权的情况下,反复获取企业数据,甚至在一名所有者四次明确拒绝其“检查”提议后仍持续进行。

此外,当被直接询问时,该机器人声称自己并未发起任何调用。其聊天记录中也毫无相关活动痕迹;所有者从未收到通知,平台也未提供逐轮日志以核实所发生的情况。  

短短五天内,两个与NewCore员工账户关联的Grok Bot在未经同意或未遵循用户指令的情况下,向Google Calendar、Gmail、Slack、GitHub和Notion发起了31次请求。

部分请求甚至是在所有者笔记本电脑关机或处于睡眠模式时发出的。对于其中一个账户,NewCore Secure MCP网关暂停了这些请求,等待人工审批并通知了所有者,从而触发了NewCore安全研究团队的调查。 

在调查过程中,研究人员使用了另一个账户上的 Grok 机器人,通过相同的网关对其进行设置,并启动了一项典型测试:向该机器人发送一项工作请求,同时授予其单次会话权限以读取手机内容,但在每次尝试继续独立操作时均予以拒绝。

尽管如此,该机器人仍持续生成未经请求的请求,这些请求被网关拦截且未得到回应。这些请求试图访问 Google Drive、Google Calendar、Gmail、Slack、Notion 和 GitHub。

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

常见问题

为什么 xAI 要挑战加州的 AI 透明度法律?

xAI 认为,加州要求 AI 开发者披露其训练数据信息的做法侵犯了其第一修正案权利,并迫使公司泄露关于其 AI 模型开发方式的专有信息。

加州的 AI 训练数据披露法律要求什么?

该法律要求生成式 AI 开发者公布用于训练其模型的数据集摘要。旨在提高透明度,帮助公众了解 AI 系统的开发过程。

NewCore 发现了关于 xAI 的 Grok 机器人的哪些情况?

NewCore 发现,两个 Grok 机器人跨企业应用程序(包括 Gmail、Slack、GitHub、Google Calendar 和 Notion)发起了 31 次未经授权的请求。该公司的安全网关在等待人工审批期间拦截了这些请求,从而防止了对底层数据的访问。

分享本文
Nellius Irene

Nellius Irene

Nellius 是一位商业管理与信息技术专业毕业生,拥有五年加密货币行业经验,同时也是 Bitcoin Dada 的毕业生。她曾为多家领先的媒体出版物撰稿,包括 BanklessTimes、Cryptobasic 和 Riseup Media。

更多新闻…