MetaはInstagramのAI画像ツールを削除し、AIによる顔写真の収集の限界をテスト

発売からわずか3日後、Metaは他のユーザーのプロフィール写真に基づいてAIで画像を作成できるInstagramの機能を削除しました。この機能の削除という決定は、人工知能の時代における同意と画像の使用に対する懸念が高まっていることを示しています。

この後退は、生成AIの分野でOpenAIやGoogleに追いつこうとするMetaの取り組みにおける初期の挫折です。Muse画像モデルはまだ利用可能ですが、クリエイター、パフォーマー、プライバシー擁護者からの批判を受け、Metaは画像生成リクエストにおいて公開Instagramプロフィールに基づいた画像作成オプションを廃止しました。

Metaが構築したもの、そして撤回したもの

Meta unveiled Muse Image on July 7, stating that the new AI-powered image generation tool is the first product of its Superintelligence Lab led by Alexandr Wang. The new technology drives 30 effects on Instagram and is said to surpass Google Nano Banana 2 according to Meta’s internal testing, while trailing only ChatGPT’s image generator.

争点はモデルそのものではなく、ユーザーがアップロードした画像の扱い方にかかっていました。ユーザーは自分の成人向け公開Instagramアカウントにタグ付けすることで、そのアカウントの公開画像をAI生成写真に使用することができました。18歳未満のユーザーとプライベートアカウントはシステムから除外され、公開された成人アカウントはユーザーが手動で無効にしない限り自動的に登録されました。

Metaによると、この機能の目的は、ユーザーに「公開コンテンツが参照されるかどうかを制御する」権利を与えることでした。しかし、多くの批評家は正反対の意見を持っています：オプトアウトシステムを導入することは、同意がデフォルトで与えられると仮定することを意味します。

その結果、金曜日までに会社は考えを変えました。

Metaの代表はVarietyに対し、「この機能についてフィードバックを受け取り、期待外れだったことがわかったため、利用できなくしました」と述べています。

クリエイターと安全グループが後退を強要

この機能は発売直後から批判を受けました。Screen Actors Guild–American Federation of Television and Radio Artists（SAG-AFTRA）は、メンバーに対しこの機能をオフにするようアドバイスし、アーティストに「自分の顔写真を守るために行動を起こす」よう警告しました。

トム・ハンクスやメリル・ストリープなどを代表するタレントエージェンシー、Creative Artists Agency, LLC（CAA）は、Metaと直接連絡を取り、AIシステムが明示的な同意がない限り、人の名前、画像、顔写真、声を決して使用すべきではないと表明しました。

一方、プライバシー擁護者は、この技術がなりすまし、同意のない性的画像、およびオンライン詐欺を容易にする可能性があると警告しました。National Center on Sexual ExploitationのHaley McNamaraは、The Vergeへのインタビューで、個人のオプトアウトという概念が責任を企業からテクノロジーのユーザーへ転換させると述べています。

この争いは、AIの顔写真に関する法的闘争を浮き彫りにしています

この論争は、AI業界が直面するより広範な問題を浮き彫りにしています：写真を公開することは、企業がそれを生成AIに使用する権利を与えるのでしょうか？

この問題は欧州のプライバシー法とますます密接に関連しています。一般データ保護規則（GDPR）は、人物の画像を個人データと定義しており、これは組織が第6条に基づいてそのようなデータを処理する法的根拠を見つける必要があることを意味します。

個人の同意を取得する必要がある場合、第7条は、同意が自由に、具体的かつ情報に基づいて与えられるべきであると述べています。第9条は、生体データの処理には個人を一意に識別するためにより多くの責任が必要であると指定しています。第12-14条もまた、組織が個人情報をどのように使用するかを記述し、個人がその使用についてより意識を持つようにすべきであると述べています。

規制当局は、従来のプライバシー規則を超えて焦点を拡大しています。EU AI法は、プロバイダーに対し、ディープフェイクなどのAI技術を使用して作成または強化されたコンテンツがある場合、一般に通知するよう要求しています。この要件の目的は、この種の技術の使用を全面的に禁止するのではなく、合成メディアに関する透明性を提供することです。

しかし、Metaだけがこの問題に直面しているわけではありません。数ヶ月前、OpenAIは公開利用可能な画像の使用に関する反発を受け、Sora動画モデルの同様のオプトアウトオプションを削除せざるを得ませんでした。

これらの介入は、規制当局やクリエイターが誰かの顔写真を操作する前に同意が明確に与えられるようにすることに注力しているため、AI技術の開発者がより厳しい課題に直面していることを確認するものです。

この問題に関する議論はすでに立法の領域に移行しています。カリフォルニア州は、生存中または死亡したパフォーマーのAI生成画像を商業利用する前に許可を必要とする2つの法案、AB 2602およびAB 1836を可決しました。

これらの法律はエンターテインメント契約よりも消費者領域におけるAIの適用性に関するものかもしれませんが、それでもなお、AIの顔写真を誰もが自由に使用できるものとして推定するのではなく、許可が必要なものと見なす傾向を示しています。

投資家は、すべての騒ぎに影響されていないようです。Cryptopolitanの過去のレポートによると、Metaの株式は発売日（7月7日）に615.58ドルで終値をつけ、当日は2.55%上昇し、1ヶ月間で最高値を記録しました。

それでもなお、コンテンツの公開がユーザーにAI開発のためにそれを利用する権利を与えるかどうかという疑問が残っています。実際、Metaの最近の決定がAI市場のより広い傾向を反映している場合、単に何かを公開するだけでは、他者がそれをAIで使用する権利を一切与えません。同時に、同意が業界および公共組織によってますます求められているため、消費者向けの新規AI製品の開発において重要な役割を果たすことが明らかになっています。