微软对滥用其服务的团体提起诉讼

微软已对一个被指滥用其人工智能 (AI) 服务的团体提起诉讼。据微软称，这个匿名团体开发了用于绕过其 AI 产品安全护栏的工具。提交的投诉指出，该团体由 10 名匿名个人组成，据称窃取了用户凭据。

Microsoft 声称，被告使用了被盗的用户凭据，并利用专为该目的设计的软件入侵了其 Azure OpenAI 服务。微软负责管理由 OpenAI 母公司 ChatGPT 创建的这项云服务。微软指控，上述人员违反了多项法律，其中一项法律促使了此次诉讼的提起。

微软就其服务被滥用提交投诉

在其投诉中，微软强调，被告（在法律上被称为“Does”）违反了《计算机欺诈和滥用法》，这是《数字千年版权法》下的一项法律。该公司还指控这些个人违反了联邦敲诈勒索法，因为他们非法访问并使用其软件和服务器创建有害和非法内容。

然而，微软拒绝透露其声称有害和非法的内容细节。该公司在投诉中指出，它在 2024 年 7 月发现，一些拥有 Azure OpenAI API 密钥（用于批准应用程序或用户的字符串）的用户被非法用于生成不符合公司可接受使用政策的内容。

根据起诉书，Microsoft发现用户通过某些用户非法接触了 API 密钥。微软在声明中称，他们获取密钥的方式仍然未知，但它强烈相信被告窃取了密钥。“被告获取用于实施本投诉所述不当行为的所有 API 密钥的确切方式尚不清楚，但似乎被告从事了系统性的 API 密钥盗窃模式，使他们能够从多个微软客户那里窃取微软 API 密钥，”声明写道。

法律裁决和未来解决方案

据微软称，被告特别针对美国用户，该公司声称该组织利用被盗的 Azure OpenAI 服务 API 密钥创建了一个被称为“黑客即服务”的计划。起诉书提到，被告创建了一个名为 De3u 的工具，该工具在客户端运行。他们还创建了另一个软件，用于处理和路由来自 De3u 到公司系统的通信。

该公司指出，De3u 利用被盗的 API 凭据使用户能够使用 DALL-E 生成图像，这是 OpenAI 向用户开放的服务之一。然而，关键在于他们无需编写自己的代码即可做到这一点。起诉书还指控 De3u 试图阻止 Azure OpenAI 服务审查用于创建图像的提示词。起诉书提到，这种情况仅发生在提示词包含触发其平台内容过滤系统的词语时。

在微软拥有的 GitHub 上发现的包含 De3u 代码的仓库在撰写本文时已被删除。微软指出，被盗的 Azure OpenAI 服务 API 密钥与这些工具的结合使被告能够规避其内容措施。“这些功能与被告对 Azure OpenAI 服务的非法程序化 API 访问相结合，使被告能够逆向工程以规避微软的内容和滥用措施，”该公司表示。

与此同时，该公司在最近的 博客文章 中提到，法院已批准其没收对被告运营至关重要的网站的请求。微软将利用这个机会收集证据，并弄清楚该服务是如何货币化的，以便移除任何剩余的技术基础设施。该公司表示已采取措施填补漏洞，并指出为 Azure OpenAI 服务采取了新的安全措施。该公司还寻求禁令和其他衡平法救济及损害赔偿。