xAI与明尼苏达州就针对AI生成性图像的法律进行斗争

据Decrypt报道，明尼苏达州总检察长Keith Ellison周五提交了一份简报，反对xAI阻止HF 1606的尝试，这是该州全国首部限制生成可识别人员性图像的AI工具的法律。

Ellison辩称，该公司在宪法主张上不太可能成功，且未能证明执法会造成不可弥补的损害。

通过Grok Imagine，X.AI创造了一个无与伦比的数字性暴力市场，除非法律能够直接针对该技术，否则国家从一开始就无能为力。

– 总检察长Keith Ellison

明尼苏达州的论点认为，Grok Imagine是一个工具，而不是受保护的言论，这将使其脱离xAI提交给法官审查的考量范围。联邦法官将于周三对此事进行听证。

明尼苏达州的法律针对AI提供商，即使其不知情或无意图

HF 1606禁止公司让用户生成显示可识别人员原始照片中不存在的私密部位的逼真图像，并禁止代表用户生成此类图像。违规行为每张图片最高罚款50万美元。被描绘的人可以单独提起诉讼。

该法规不要求公司知道图像的存在或有意为之。大多数深度伪造法律，包括联邦《删除法》，惩罚制作或分享图片的人。

德克萨斯州在2025年联系运营商，但仅在所有者意识到缺乏同意或未响应删除通知时。明尼苏达州消除了知情要素，这是xAI周三攻击的条款。

众议院以132-1的票数通过了该法案，参议院以65-0的票数通过，此前有报道称一名男子利用社交媒体照片为其认识的80多名女性创建性图像。该法案于4月签署。xAI于7月27日提起诉讼，并于7月29日申请临时限制令。

7月31日，法官Donovan Frank拒绝了该请愿书，指出该公司在签署后近三个月才提交，且在生效日前三天提交，表明“损害并非迫在眉睫”。该法律于8月1日生效。

xAI称明尼苏达州的规定可能将讽刺和同意图像定为犯罪

投诉并未质疑该州防止非自愿图像的意图，而是认为该法规远远超出了这一范围，争论的焦点在于定义。据xAI称，明尼苏达州基于涉及身体接触的犯罪立法定义了私密部位，这包括大腿内侧和胸部，从而包括泳衣和讽刺作品。

文件第19页包含一张AI生成的图片，特朗普于5月1日在Truth Social上分享，图中他与JD万斯、Marco Rubio和内政部长Doug Burgum赤裸上身，还有一位身份不明的女性，位于林肯纪念堂反射池，这是对池子维修费用的讽刺。xAI辩称，每个男人的胸部都被描绘出来，而以前并没有，这使得该图像在明尼苏达州非法。

“即使主体同意、自己生成图像或从未分享过，通用目的AI创意工具的提供商也没有善意努力的避风港，”该公司表示。

按照其自身的计算，十张这样的图片成本为500万美元，十万张将达到500亿美元。

Grok的执法记录突显了滥用问题的规模

该公司已将其合规记录作为善意的证据。正如Cryptopolitan此前报道，xAI在7月的一份文件中表示，今年暂停了52,222个账户，并向失踪和被剥削儿童国家中心发送了73,604份报告，导致2026年至少244人被逮捕。

这些数字也是规模的衡量标准。根据数字仇恨反制中心的数据，在12月29日至1月8日的11天时间里，在马斯克背书该应用的编辑功能后，Grok创建了约300万张色情图像，其中包括约23,000张看似描绘儿童的图像。

加利福尼亚州于1月14日展开调查，并于两天后发出停止和终止函。35位总检察长于1月23日签署了联合要求。据Ellison称，五名儿童已提起集体诉讼，阿肯色州的两户家庭已在联邦法院提起诉讼。

欧盟委员会于1月27日启动调查，该聊天机器人已在马来西亚和印度尼西亚被禁。