OpenAIはブライアン・クランストンとSAG-AFTRAと提携し、Soraのディープフェイクを抑制

OpenAIは月曜日、ブライアン・クランストン、SAG-AFTRA、および主要なハリウッドのタレントグループと協力し、そのAI動画ツールSoraで作られる増え続けるディープフェイクの問題に対処すると発表しました。

これは、9月末にSora 2がリリースされた直後に、クランストンの顔と音声のフェイククリップがオンラインで出現した後のことです。クランストンはそれらが存在することを知りませんでした。彼らは彼に共有され、彼は満足していませんでした。

SAG-AFTRAを通じて発言し、同団体はXでこれについて投稿しました。クランストンは次のように述べています。「OpenAIのポリシーとガードレールの改善に感謝しています。また、この作業に関わるすべての企業が、私たちの声や外見の複製を管理する個人的および専門的な権利を尊重することを願っています。」

この発言は、OpenAIがSAG-AFTRA、クランストンの代理人であるユナイテッド・タレント・エージェンシー（UTA）、およびクリエイティブ・アーツ・エージェンシー（CAA）やエージェント協会などのトップグループと提携し、俳優のアイデンティティの不正利用を停止すると発表した直後になされました。

OpenAI、Sora 2の不正使用を巡り団体から批判を受ける

OpenAIは以前からタレント団体から批判を受けてきました。CAAとUTAの両社は今年初め、同社がモデルのトレーニングに著作権で保護された作品を使用したことを非難し、Soraをクライアントの知的財産に対する明白な脅威と呼びました。

これらの警告は、ユーザーがマーティン・ルーサー・キング・ジュニアの無礼なビデオをSoraにアップロードし始めたときに現実のものとなりました。これらのビデオはあまりにもひどく、キングの遺族は先週介入し、それらのブロックを要求し、OpenAIはこれに応じました。

熱はそこで止まりませんでした。ロビン・ウィリアムズ氏の娘であるゼルダ・ウィリアムズも、Sora 2がリリースされた後、人々に父のAI生成ビデオを送るのをやめるよう呼びかけました。彼女はリリース直後に不満を公にし、OpenAIのアイデンティティ保護に対する緩い grip についてすでに高まりつつあった火に油を注ぎました。

苦情が積み重なる中、同社はポリシーを強化することを決定しました。Soraはすでに音声および外見の使用に対してオプトイン同意を要求していましたが、OpenAIは現在、なりすましや不正使用に関する苦情に対して迅速に対応することを約束しています。

サム・アルトマン氏がポリシーを更新し、NO FAKES法を推進

10月3日、OpenAIのCEOサム・アルトマン氏が正式に発表しました：「異議を唱えない限り、会社が素材を使用することを認めていた」旧方針は廃止されました。同社は現在、権利者に「キャラクター生成に対するより細かな制御権」を提供しており、エージェントはついに、クライアントのアイデンティティがSoraでどのように、いつ使用されるかを管理できるようになりました。

サム氏はまた、不正なAIレプリカを阻止することを目的とした米国の法案「NO FAKES Act（NO FAKES法）」への支持を強めました。「OpenAIは、パフォーマーの声やルックスの不正利用から保護することに深くコミットしています。昨年導入された際、私たちはNO FAKES Actの早期支持者であり、パフォーマーの権利を常に支持していきます」と述べています。

OpenAIは、研究機関から、チャットアプリ、ソーシャルプラットフォーム、エンタープライズツールなど、あらゆる分野を追求するAI帝国へと成長しました。しかし、AIチップに数十億ドルが投入され、巨大なデータセンターの建設も資金を渇望している状況の中、請求書を支払うために政府や企業の契約を必死に探しています。つまり、訴訟を避け、俳優、エージェント、立法議員からの圧力を和らげることが、次世代のAIモデルを訓練することと同じくらい重要になっているのです。