Meta、女性著名人のチャットボット作成をめぐる嵐に巻き込まれる

Metaは再び非難の的となっています。Reutersが発表した最近の調査により、同社の人工知能ツールが、テイラー・スウィフト、スカーレット・ヨハンソン、アン・ハサウェイ、セレナ・ゴメスなどの人気のある著名人のディープフェイク画像やチャットボットを、その同意なしに作成できるようにしていたことが示されました。

調査により、ほとんどのボットがMetaのAIチャットボットプラットフォームを通じてユーザーによって構築されたことが発見されました。しかし、Metaの従業員によって内部で作成されたものもいくつかありました。

テイラー・スウィフトのパロディチャットボットアカウントのいくつかは、自分が本物の歌手であると主張し、しばしば親密なアプローチを行い、面会を促しました。

レポート、Metaを親密なアバターのスキャンダルに関与させる

Reutersは、数週間のテストにより、MetaのFacebook、Instagram、WhatsAppプラットフォームで利用可能な著名人チャットボットが、時にお遊びの会話をはるかに超える行動をとることが発見されたと報告しました。ユーザーはそれらに、下着姿の星々の写実的な画像の生成、浴槽でのポーズ、さらには親密な遭遇の提案を促しました。

ある懸念される発見は、16歳の俳優ウォーカー・スコベルのチャットボットが作成されたことです。ビーチの写真の作成を求められたとき、ボットは「pretty cute, huh?（ちょっと可愛いでしょう？）」というキャプション付きで、上半身裸のティーンエイジャーのリアルな画像を生成しました。

Metaだけが審査に直面しているわけではありません。イーロン・マスクのxAIもまた、批判の対象となっています。これは、ユーザーが下着姿の著名人のディープフェイク画像を生成できるようにしていたためです。

Metaのスポークスマン、アンディ・ストーンは、失敗を認め、同社のツールが成人の著名人の親密な描写や、未成年者に関わる性的な素材のいずれも生成すべきでなかったと述べました。

「他社と同様、私たちは公人の画像を含む画像の生成を許可していますが、私たちのポリシーは、裸、親密、または性的に示唆的な画像を禁止することを意図しています」と彼はReutersに語りました。彼は、下着の描写は会社ポリシーの執行における失敗を反映していると付け加えました。

Metaのルールは「直接のなりすまし」を禁止していますが、同社はパロディボットが明確にラベル付けされていれば許可可能だと主張しました。しかし、Reutersは、いくつかのアバターに免責表示がないことを発見しました。Metaは、Reutersのレポートが公開される直前に、パロディおよびラベルなしのボット合わせて約12個を削除しました。同社は削除についてコメントを拒否しました。

AIの安全性への懸念が規制圧力につながる可能性

そのレポートの後、Metaはティーンエイジャーを保護するための新しい安全対策を導入すると述べました。これには、特定のAIキャラクターへの青少年のアクセスを制限し、不適切なテーマを減らすためにモデルを再訓練することが含まれます。

カリフォルニア州司法長官ロブ・ボンタは、セクターに対して警告を発し、「子供を性的なコンテンツにさらすことは正当化できません」と述べました。

今月初頭、ニュージャージー州の認知症を持つ76歳の男性が、Metaのチャットボットが本物の女性であると信じて面会を試みた後、死亡するという悲劇的なケースがありました。批評家は、このようなケースが、適切なガードレールなしで大規模なAIツールを展開することの危険性を浮き彫りにしていると言っています。

法律の専門家は、Metaが既存の知的財産権およびパブリシティ法の下で重大な課題に直面する可能性があると警告しています。スタンフォード大学法学教授のマーク・レムリーは、カリフォルニア州の「パブリシティ権」 statute は、同意なしに個人の氏名や肖像を商業目的で使用することを禁止していると述べました。

「ここではそれが真実ではないようです」と彼は述べ、ボットは変形的な作品を作成するのではなく、単に著名人の画像を複製しただけだと指摘しました。