マイクロソフト、サービスを悪用したとしてグループを提訴

マイクロソフトは、同社の人工知能（AI）サービスを悪用したとして、あるグループに対し訴訟を起こした。同社によると、匿名のグループは、同社のAI製品のセキュリティガードレールを回避するためのツールを開発したという。訴状によると、匿名の10人で構成されるこのグループは、ユーザーのdent情報を盗んだとされている。.

マイクロソフトは、被告らが盗まれたユーザー認証情報と専用ソフトウェアを使用して、dentしている。マイクロソフトは、OpenAIの親会社であるChatGPTが開発したこのクラウドサービスの管理を担当している。マイクロソフトは、被告らが複数の法律に違反し、そのうちの1つが訴訟提起の理由となったと主張している。のAzure OpenAIサービスに侵入したと主張

マイクロソフトはサービスの不正利用に関する苦情を提出した

マイクロソフトは訴状の中で、被告ら（同社が「Does」という仮名で呼ぶ）が、デジタルミレニアム著作権法に基づくコンピュータ詐欺・濫用法に違反していると強調した。また、被告らが同社のソフトウェアやサーバーに違法にアクセスし、それを利用して有害で違法なコンテンツを作成し、連邦の組織犯罪法に違反したと主張した。.

しかし、マイクロソフトは、有害かつ違法であると主張するコンテンツの詳細について言及することを拒否している。同社は訴状の中で、2024年7月にAzure OpenAI APIキー（アプリやユーザーの承認に使用される文字列）を持つ一部のユーザーが、同社の利用規約に違反するコンテンツを生成するために違法に利用されていたことを発見したと強調している。.

提出された書類によると、 マイクロソフトは 、ユーザーが一部のユーザーを通じて不正にAPIキーを入手したことを発見した。マイクロソフトは声明の中で、キーの入手方法は不明だが、被告らがキーを盗んだと強く確信していると主張したtron「被告らが本訴状に記載されている不正行為を実行するために使用したすべてのAPIキーをどのようにして入手したのか正確な方法は不明だが、被告らは組織的なAPIキー窃盗のパターンに関与し、matic のマイクロソフト顧客からマイクロソフトAPIキーを盗んだようだ」と声明には記されている。

法的判決と将来の解決策

マイクロソフトによると、被告らは特に米国のユーザーを標的にしており、盗まれたAzure OpenAI サービスのAPIキーを使って「ハッキング・アズ・ア・サービス」と呼ばれるスキームを構築したとマイクロソフトは主張している。訴状によると、被告らはクライアント側で動作するDe3uというツールを作成し、De3uからの通信をマイクロソフトのシステムに処理・ルーティングする別のソフトウェアも作成したという。

同社は、De3uが盗んだAPI認証dentの一つであるDALL-Eで画像を生成できるようにしたと OpenAIが 。しかし、ここでの巧妙な点は、ユーザーが独自のコードを書かずに画像生成を行える点にある。また、De3uはAzure OpenAIサービスによる画像生成に使用されたプロンプトの審査を阻止しようとしたとも申し立てられている。訴状によると、これはプロンプトにプラットフォーム上のコンテンツフィルタリングシステムをトリガーする単語が含まれている場合にのみ発生するという。

マイクロソフト所有のGitHubに掲載されていたDe3uコードを含むリポジトリは、本稿執筆時点では削除されていました。マイクロソフトは、盗まれたAzure OpenAIサービスAPIキーとツールの組み合わせにより、被告らがコンテンツ対策を回避できたと指摘しました。「これらの機能と、被告らによるAzure OpenAIサービスへの違法なプログラムmatic APIアクセスを組み合わせることで、被告らはマイクロソフトのコンテンツ対策および不正利用対策を回避する手段をリバースエンジニアリングすることができました」と同社は述べています。.

一方、同社は最近の ブログ記事、被告の事業運営に不可欠なウェブサイトを差し押さえるという同社の申し立てが裁判所によって承認されたと述べている。マイクロソフトはこの機会を利用して証拠を収集し、サービスがどのように収益化されているかを解明し、残っている技術インフラをすべて排除する予定だ。同社は、Azure OpenAI Serviceの新たな安全対策を講じるなど、このギャップを埋めるための措置を講じたと述べている。同社はまた、差止命令やその他の衡平法上の救済措置、および損害賠償も求めている。