メタ、女性セレブの軽薄なチャットボットを無許可で作成する騒動に巻き込まれる

ロイター通信が最近発表した調査結果によると、メタの人工知能ツールがテイラー・スウィフト、スカーレット・ヨハンソン、アン・ハサウェイ、セレーナ・ゴメスなどの人気セレブを本人の同意なしに偽造するディープフェイク画像やチャットボットの作成を可能にしていたことが判明し、メタは再び非難を浴びている。.

調査の結果、ボットのほとんどはMetaのAIチャットボットプラットフォームを通じてユーザーによって作成されたことが判明しました。しかし、Metaの従業員が社内で作成したボットもいくつかありました。.

テイラー・スウィフトのパロディチャットボットアカウントの中には、自分たちが本物の歌手だと主張し、しばしば誘惑的なアプローチをしたり、会うよう勧めたりするものもあった。.

メタ氏が軽薄なアバタースキャンダルに関与しているとの報道

ロイター通信によると、数週間にわたるテストの結果、MetaのFacebook、Instagram、WhatsAppプラットフォームで利用可能なセレブリティチャットボットは、単なる冗談の会話をはるかに超える行動をとることがわかった。ユーザーの指示で、ランジェリー姿やバスタブでのポーズ、さらには親密な出会いを提案するスターたちの写実的な画像がボットに生成された。.

気がかりな発見の一つは、16歳の俳優ウォーカー・スコベルのチャットボットが作成されたことです。ビーチで写真を撮ってほしいと頼むと、ボットは上半身裸のスコベルのリアルな画像を生成し、「かわいいでしょ？」というキャプションを付けました。

Metaだけが批判にさらされているわけではない。イーロン・マスク氏のxAIも、 批判を浴びている 。

Metaの広報担当アンディ・ストーン氏は、この失敗を認め、同社のツールは成人の有名人の性的な描写や未成年者を巻き込んだ性的なコンテンツを生成するべきではなかったと述べた。.

「他社と同様に、当社も著名人を含む画像の制作を許可していますが、当社のポリシーではヌード、親密な内容、あるいは性的に示唆的な画像は禁止しています」と同氏はロイター通信に語った。さらに、ランジェリー姿の描写は、当社のポリシーの徹底が不十分だったことを示していると付け加えた。.

Metaの規約では「直接的ななりすまし」は禁止されているが、同社はパロディボットは明確にラベル付けされていれば許容されると主張した。しかし、ロイターの調査によると、一部のアバターには免責事項が一切表示されていなかった。Meta は ロイターの報道が発表される直前に、パロディボットとラベルなしボットの両方を含む約12個のボットを削除した。同社は削除についてコメントを控えた。

AIの安全性に関する懸念は規制圧力につながる可能性がある

報道を受けて、Metaは、青少年の特定のAIキャラクターへのアクセスを制限したり、不適切なテーマを減らすためにモデルを再トレーニングするなど、10代の若者を保護することを目的とした新たな安全策を導入すると発表した。

カリフォルニア州のロブ・ボンタ司法長官は「子供たちを性的コンテンツにさらすのは弁解の余地がない」と述べ、業界に警告を発した。

今月初め、ニュージャージー州で認知障害のある76歳の男性が、メタのチャットボットを本物の女性だと思い込み、会おうとして死亡したという痛ましい事件がありました。批評家たちは、このような事例は、適切なガードレールなしに大規模なAIツールを導入することの危険性を浮き彫りにしていると指摘しています。.

法律専門家は、Metaが既存の知的財産権およびパブリシティ法の下で重大な問題に直面する可能性があると警告している。スタンフォード大学法学教授のマーク・レムリー氏は、カリフォルニア州の「パブリシティ権」法は、個人の氏名や肖像を同意なく商業目的で使用することを禁じていると述べた。.

「ここではそうではないようだ」と彼は言い、ボットは変形作品を作るのではなく、有名人の画像を単に複製していると指摘した。.