マイクロソフトは、同社の人工知能（AI）サービスを悪用したとして、あるグループに対し訴訟を起こした。同社によると、匿名のグループは、同社のAI製品のセキュリティガードレールを回避するためのツールを開発したという。訴状によると、匿名の10人で構成されるこのグループは、ユーザーのdent情報を盗んだとされている。.
マイクロソフトは、被告らが盗んだユーザー認証情報と、その目的で設計されたソフトウェアを用いdent主張している。マイクロソフトは、OpenAIの親会社であるChatGPTが開発したこのクラウドサービスの管理を担当している。被告らは複数の法律に違反しており、そのうちの一つが今回の訴訟の提起を必要としたとマイクロソフトは主張している。
マイクロソフトはサービスの不正利用に関する苦情を提出した
マイクロソフトは訴状の中で、被告ら（同社が「Does」という仮名で呼ぶ）が、デジタルミレニアム著作権法に基づくコンピュータ詐欺・濫用法に違反していると強調した。また、被告らが同社のソフトウェアやサーバーに違法にアクセスし、それを利用して有害で違法なコンテンツを作成し、連邦の組織犯罪法に違反したと主張した。.
しかし、マイクロソフトは、有害かつ違法であると主張するコンテンツの詳細について言及することを拒否している。同社は訴状の中で、2024年7月にAzure OpenAI APIキー（アプリやユーザーの承認に使用される文字列）を持つ一部のユーザーが、同社の利用規約に違反するコンテンツを生成するために違法に利用されていたことを発見したと強調している。.
訴状によると、マイクロソフトは、ユーザーが一部のユーザーを通じてAPIキーに不正にアクセスしたことを発見した。マイクロソフトは声明の中で、キーの入手方法は不明であるものの、被告らがキーを盗んだと強く確信していると主張しているtron 「本訴状に記載されている不正行為を実行するために使用されたすべてのAPIキーを被告らがどのように入手したかは正確には不明ですが、被告らは複数のマイクロソフト顧客からMicrosoft APIキーを盗むことを可能にする、組織的なAPIキー窃盗のパターンに関与していたようですmaticと声明は述べている。
法的判決と将来の解決策
マイクロソフトによると、被告らは特に米国のユーザーを標的としており、窃取したAzure OpenAIサービスのAPIキーを用いて「サービスとしてのハッキング」と呼ばれる手法を作成したと主張している。訴状によると、被告らはクライアント側で動作する「De3u」というツールを作成した。また、De3uからの通信を処理・マイクロソフトシステムへルーティングする別のソフトウェアも作成した。
同社は、De3uが盗んだAPI認証dent OpenAIがの一つであるDALL-Eで画像を生成できるようにしたと。しかし、ここでの巧妙な点は、ユーザーが独自のコードを書かずに画像生成を行える点にある。また、De3uはAzure OpenAIサービスによる画像生成に使用されたプロンプトの審査を阻止しようとしたとも申し立てられている。訴状によると、これはプロンプトにプラットフォーム上のコンテンツフィルタリングシステムをトリガーする単語が含まれている場合にのみ発生するという。
マイクロソフト所有のGitHubに掲載されていたDe3uコードを含むリポジトリは、本稿執筆時点では削除されていました。マイクロソフトは、盗まれたAzure OpenAIサービスAPIキーとツールの組み合わせにより、被告らがコンテンツ対策を回避できたと指摘しました。「これらの機能と、被告らによるAzure OpenAIサービスへの違法なプログラムmatic APIアクセスを組み合わせることで、被告らはマイクロソフトのコンテンツ対策および不正利用対策を回避する手段をリバースエンジニアリングすることができました」と同社は述べています。.
一方、同社は最近のブログ投稿、裁判所が被告の事業に不可欠なウェブサイトの差し押さえを承認したと述べています。マイクロソフトは、この機会を利用して証拠を収集し、サービスの収益化方法を明らかにし、残存する技術インフラをすべて排除する予定です。同社は、Azure OpenAIサービスに新たな安全対策を講じるなど、このギャップを埋めるための対策を講じたと述べています。また、差止命令やその他の衡平法上の救済と損害賠償を求めています。
