Microsoftは、同社がその人工知能（AI）サービスを悪用していると主張するグループに対して訴訟を起こしました。Microsoftによれば、無名のグループは、そのAI製品の安全ガードレールを回避するために使用されたツールを開発しました。提出された訴状には、10人の無名の個人で構成されるグループが、ユーザー資格情報を盗んだと alleged（主張）されています。

Microsoft、そのサービスの悪用に関する苦情を提出

提出された文書によると、Microsoftは、ユーザーが一部のユーザーを通じてAPIキーに違法にアクセスしたことを発見しました。Microsoftの声明では、キーの取得方法は不明ですが、被告がキーを盗んだと強く信じていると述べています。「本訴 Complaint で説明されている不正行為を実行するために使用されたすべてのAPIキーを被告が取得した正確な方法は不明ですが、被告は複数のMicrosoft顧客からMicrosoft APIキーを盗むことを可能にした体系的なAPIキー窃盗のパターンに関与したようです」と声明は読みました。

苦情の中で、Microsoftは、法的な擬似名「Does」で参照される被告が、デジタルミレニアム著作権法（DMCA）下の法律であるコンピュータ詐欺および悪用法（CFAA）に違反したと強調しました。同社はまた、これらの個人が連邦の組織犯罪規制法（RICO法）に違反し、有害かつ違法なコンテンツを作成するためにそのソフトウェアとサーバーに違法にアクセスして使用したと主張しました。

しかし、Microsoftは、有害かつ違法であると主張したコンテンツの詳細への立ち入りを拒否しました。同社は、苦情の中で、2024年7月に、アプリまたはユーザーを承認するために使用される文字列であるAzure OpenAI APIキーを持つ一部のユーザーが、同社の許容使用ポリシーに合致しないコンテンツを生成するために違法に使用されていることを発見したと強調しました。

法的判決と将来の解決策

Microsoftによれば、被告は特に米国ユーザーを対象とし、同社はグループが盗まれたAzure OpenAIサービスAPIキーを使用して、『ハッキング・アズ・ア・サービス』と呼ぶスキームを作成したと主張しています。訴状には、被告がDe3uと呼ばれるツールを作成し、これはクライアント側で動作すると記載されています。また、De3uからの通信を処理し、同社のシステムにルーティングする別のソフトウェアも作成しました。

Microsoftが所有するGitHubに載っていたDe3uのコードを含むリポジトリは、執筆時点では削除されていました。Microsoftは、盗まれたAzure OpenAIサービスAPIキーとツールの組み合わせにより、被告がそのコンテンツ対策を回避できたと指摘しました。「これらの機能と、被告によるAzure OpenAIサービスへの違法なプログラムmaticなAPIアクセスが組み合わさり、被告がMicrosoftのコンテンツおよび悪用対策を回避する手段をリバースエンジニアリングすることを可能にしました」と同社は述べました。

同社は、De3uが盗まれたAPI資格情報を利用して、ユーザーがDALL-Eを使用して画像を生成できるようにしたと指摘しました。DALL-Eは、ユーザーに公開されているOpenAIサービスの1つです。しかし、注目すべき点は、独自のコードを書かなくてもそれができることです。提出された文書では、De3uがAzure OpenAIサービスの画像作成に使用されるプロンプトのレビューを停止しようとしたことも指摘されました。訴状には、これはプロンプトにプラットフォームのコンテンツフィルタリングシステムをトリガーする単語が含まれている場合にのみ発生すると記載されています。

一方、同社は最近のブログ投稿で、裁判所が被告の運営に不可欠なウェブサイトの差押えを承認したと述べています。Microsoftは、この機会を利用して証拠を集め、サービスがどのように収益化されているかを解明し、まだ残っている技術インフラを削除する予定です。同社は、Azure OpenAIサービスの新規の安全対策を設けるなど、ギャップを塞ぐための措置を講じたと述べました。同社はまた、差止命令その他の衡平法上の救済および損害賠償を求めています。

Microsoftによれば、無名のグループは、そのAI製品の安全ガードレールを回避するために使用されたツールを開発しました。

一方、同社は最近のブログ投稿で、裁判所が被告の運営に不可欠なウェブサイトの差押えを認めたことを明かしました。Microsoftはこの機会を利用して証拠を収集し、サービスがどのように収益化されているかを解明し、残っている技術インフラをすべて撤去する予定です。同社は、Azure OpenAI Serviceに対する新しい安全対策を講じたことを明らかにし、このギャップを塞ぐための措置を講じたと述べました。同社はまた、差止命令その他の衡平法上の救済および損害賠償も求めています。