MetaがInstagramのAI画像ツールを停止、AIによる類似性スクレイピングの限界を検証

Metaはサービス開始からわずか3日後、他のユーザーのプロフィール写真を基にAIを使って画像を作成できるInstagramの機能を削除した。この機能の削除は、人工知能時代における同意と画像利用に関する懸念の高まりを示している。.

このtracは、生成AIの分野でOpenAIやGoogleに追いつこうとするMetaの取り組みにとって、早くも挫折となった。Muse画像モデル自体はまだ利用可能だが、クリエイター、パフォーマー、プライバシー擁護者からの批判を受け、同社は画像生成リクエストにおいて、公開されているInstagramプロフィールに基づいて画像を作成するオプションを廃止した。.

Metaが築き上げたものと、それを覆したもの

Metaは7月7日、Muse Imageを発表した 。この新しいAI搭載画像生成ツールは、Alexandr Wang氏率いる同社のSuperintelligence Lab初の製品である。この新技術はInstagramで30種類のエフェクトを実現し、Metaの社内テストによると、Google Nano Banana 2を凌駕する性能を持ち、ChatGPTの画像生成ツールに次ぐ性能を発揮するとされている。

この論争は、モデルそのものというより、ユーザーがアップロードした画像の扱い方に焦点を当てたものだった。ユーザーは、自身の成人向け公開Instagramアカウントにタグを付けることで、そのアカウントの公開画像をAI生成写真に利用できた。18歳未満のユーザーと非公開アカウントはシステムから除外されていたが、成人向け公開アカウントは、ユーザーが手動で無効化しない限り、maticに登録された。.

Metaによると、この機能の目的は、ユーザーが「自分の公開コンテンツが参照されるかどうかを制御できるようにする」ことだった。しかし、多くの批評家は正反対の考えを持っている。オプトアウトシステムを導入するということは、デフォルトで同意が得られているという前提を置くことを意味する、というのだ。.

その結果、金曜日までに同社は考えを変えた。.

Metaの担当者はVariety誌に対し、「この機能が期待外れだったというフィードバックを受け、現在は提供を終了しました」と述べた。

クリエイターや安全団体が方針tracを強要した

この機能は、リリース直後から批判を浴びた。全米映画俳優組合・テレビ・ラジオ芸術家連盟（SAG-AFTRA）は、会員に対しこの機能をオフにするよう勧告し、アーティストたちに「肖像権を守るための措置を講じる」よう警告した。

トム・ハンクスやメリル・ストリープなどを擁するタレントエージェンシー、クリエイティブ・アーティスト・エージェンシー（CAA）は、メタ社と直接連絡を取り合っており、AIシステムは本人の明確な同意なしに、人々の名前、画像、肖像、声を使用すべきではないと表明した。.

一方、プライバシー擁護派は、この技術によってなりすまし、同意のない性的画像の流出、オンライン詐欺が容易になる可能性があると警告した。全米性搾取対策センターのヘイリー・マクナマラ氏は、The Vergeのインタビューで、個人がオプトアウトできるという概念は、企業から技術の利用者へと責任の所在を移すものだと述べた。.

この紛争は、AIによる肖像権をめぐる法廷闘争を浮き彫りにしている。

この論争は、AI業界が直面するより広範な問題を浮き彫りにしている。つまり、写真を公開することで、企業はそれを生成型AIに利用する権利を得るのだろうか？

このテーマは、欧州のプライバシー法との関連性がますます強まっています。一般データ保護規則（GDPR） defiしており、組織は第6条に基づき、そのようなデータを処理するための法的根拠を見つける必要があります。

個人の同意を得る必要がある場合、第7条では、同意は自由意思に基づき、具体的かつ十分な情報に基づいたものでなければならないと規定している。第9条では、個人を一意にdentためには、生体認証データの処理にはより厳格な責任が伴うべきであると規定している。また、第12条から第14条では、組織は個人情報の利用方法を明示し、個人がその利用についてより深く理解できるようにすべきであると規定している。.

規制当局は、従来のプライバシー規則にとどまらず、監視対象を拡大している。EU のAI法は、 ディープフェイクなどのAI技術を用いてコンテンツが作成または加工された場合、プロバイダーにその旨を公表することを義務付けている。この要件の目的は、合成メディアの使用を全面的に禁止するのではなく、合成メディアに関する透明性を確保することにある。

しかし、この問題に直面しているのはMetaだけではない。ほんの数か月前には、OpenAIが、公開されている画像を使用していることに対する批判を受け、Soraビデオモデルから同様のオプトアウトオプションを削除せざるを得なくなった。.

これらの介入は、AI技術開発者が、規制当局や開発者が、他人の肖像を操作する前に明確な同意が得られていることを確認することに注力しているため、より困難な課題に直面していることを裏付けている。.

この問題に関する議論は既に法制化の段階にまで及んでいる。カリフォルニア州では、生存者または故人の芸能人のAI生成画像を商業利用する際に許可を義務付ける法案、AB 2602とAB 1836が可決された。.

これらの法律は、消費者分野におけるAIの適用可能性というよりも、エンターテインメント契約に関するものが多いかもしれないが、それでも、AIによる肖像は誰でも使用できると決めつけるのではなく、許可が必要なものとして捉える傾向を示している。.

投資家はこうした騒ぎに影響を受けていないようだ。Cryptopolitanの以前の報道によると Meta Cryptopolitan株はローンチ当日（7月7日）に615.58ドルで取引を終え、これは前日比2.55%の上昇で、過去1ヶ月で最高値となった。

しかし、コンテンツの公開によってユーザーがそれをAI開発に利用できるかどうかという疑問は依然として残る。実際、Metaの最近の決定がAI市場における広範なトレンドを反映しているとすれば、単に何かを公開しただけで、他者がそれをAIに利用する権利が全く得られるわけではない。同時​​に、業界や公共機関からの要求が高まっていることから、消費者向けの新AI製品の開発において、同意が重要な役割を果たすことは明らかになりつつある。.