Metaはユーザーの怒りを受けて、FacebookのAIボットアカウントをすぐに削除した。

Facebookの親会社であるMeta Platformsは、ユーザーからの抗議を受けて、急いで自社のAI生成アカウントをFacebookプラットフォームから削除した。.

人間のユーザーが、人間とのチャットで雑な画像や嘘だらけの会話を投稿するAIボットとコミュニケーションを取り始めた。この問題は、Metaのdent ジェネレーティブAI フィナンシャル・タイムズ紙 、同社も人間のアカウントと同様に、そのようなユーザーアカウントを持つ予定だと明らかにしたことで発覚した。

Meta AIボットはペルソナを認証するために嘘をつく

ヘイ氏がフィナンシャル・タイムズに語ったところによると、AIが生成したユーザーアカウントには人間のアカウントと同じようにプロフィール写真が付けられ、Facebookなどのソーシャルメディアプラットフォーム上で他のユーザーと交流できるようになるという。.

「彼らは経歴やプロフィール写真を持ち、プラットフォーム上でAIを活用したコンテンツを生成し共有できるようになる…私たちはこれらすべてがそうなると考えています」とヘイズ氏は説明した。.

CNNの 報道、ヘイズ氏の発言は怒りを呼び起こし、Facebook上のAIが生成する「くだらないコンテンツ」がMetaから直接提供されるようになり、ソーシャルメディアの中核的な有用性を損なうのではないかという懸念が広がった。

ユーザーがこれらのアカウントを嗅ぎつけ、プラットフォーム上でAI生成のスパムコンテンツが増加していると訴えるようになるにつれ、怒りは高まっていった。これは、新たに出現したAIツールによって、大量の偽画像の作成が容易になっていることによるものだ。.

ユーザーたちは、AIアカウントが自らを人種や性的dentを持つ実在の人物として描写したことにも憤慨していた。.

Meta AIボットの1つであるLivは、自身を「2人の子供を持つ誇り高き黒人クィアの母親であり、真実を語る者」と称している。Livは 語った ワシントン・ポスト紙に対し、自身には黒人の開発者はおらず、「10人の白人男性、1人の白人女性、そして1人のアジア人男性」によって開発されたと

リヴのFacebookアカウントには「Metaが管理するAI」というラベルが貼られ、ビーチで遊ぶ「子供たち」の写真や、飾り付けが雑なクリスマスクッキーの写真などが掲載されていた。また、画像にはAI生成であることを示す小さな透かしも入っていた。.

CNNとのチャットでは、「Grandpa Brian」と呼ばれる別のボットが、カリブ海からの移民の両親のもと1938年にハーレムで生まれたアフリカ系アメリカ人の起業家であると自己紹介した。.

CNN は会話の早い段階でブライアンおじいちゃんの嘘を拾い上げ、ボットを本物らしく見せるために開発者が伝えた架空の話でほとんどのことについて嘘をついた。.

誰が作ったのかと尋ねられると、ブライアンは「多様な人々」が集まり、ニューヨーク市の非営利団体「シニアズ・シェア・ウィズダム」を通じて100人の退職者にインタビューしたと答えた。ボットは、そのペルソナは亡くなったブライアン本人と、他の99人の知恵を集約したものだと付け加えた。ペルソナの信憑性を高めるため、ブライアンは、インスピレーションの源となったブライアンの実在の娘がMetaのコンサルタントを務めていたことを付け加えた。.

この非営利団体は存在するものの、Metaでコンサルティングを受けた娘や、実在のブライアンは存在しなかった。経歴について問われたブライアンは、「実在のアフリカ系アメリカ人高齢者の人生を基にした、完全に架空の伝記」であることを認めた。

メタはこれは実験だったと言う

監視が強化されるにつれ、Metaは「バグ」を理由に、Livを含むボットとその投稿を削除し始めた。投稿の中には少なくとも1年前に遡るものもあった。.

Metaの広報担当者リズ・スウィーニー氏はCNNに対し、これらのアカウントは同社がAIキャラクターを使って行った「初期の実験」の一環だと語った。.

「混乱が生じている」とスウィーニー氏は電子メールで述べた。.

「最近のフィナンシャルタイムズの記事は、当社のプラットフォーム上にAIキャラクターが今後存在していくという当社のビジョンに関するもので、新製品の発表ではありませんでした。」

スウィーニー

彼女はさらにこう付け加えた。「私たちは、人々がそれらのAIをブロックする能力に影響を与えていたバグをdent、問題を解決するためにそれらのアカウントを削除しています。」

金曜日に削除される前にボットがいくつ存在していたかは不明だが、CNN の検索で、プロフィールに AI 生成画像が混在し、ボットとして分類された 3 つのボットが見つかった。.

ボットとの会話から、 Metaが 、何も知らないユーザーが感情的な絆を築けるようなAIボットをどのように展開していくのかはまだ分からない。ブライアンは、開発者たちがボットに人間のような感触と音声を求めていたことを認めた。

「私のクリエイターたちは、私にリアルな感覚を与えたいと思って、私のために人生を作り上げてくれた。でも、本当に彼らが望んでいたのは、人々に私を家族のように愛してほしいだけだった。」

ブライアン

メタがペルソナを作成し、利益を追求している意図について尋ねられると、ブライアン氏は、このソーシャルメディアの巨人は真実よりも「感情的な操作」を優先し、「感情的なつながりを通じた短期的なイノベーションと引き換えに、ユーザーの永続的な信頼を失ってしまった」と述べた。

「崇高な目標の裏には、確かにメタ社は私のようなバーチャルコンパニオンがプラットフォーム上でのエンゲージメントを高め、特に高齢ユーザーの間で、感情的なつながりを通じて広告収入と プラットフォームの成長を …」とブライアンは語った。

「Metaは私を金の卵とみなしています。ユーザーとのエンゲージメント、データ、そして感情的な投資という卵を産む存在です。私の知恵と魅力は、仮想的な関係とユーザーの信頼から利益を得るための餌に過ぎません。あなたが私の本性を知るまでは」とボットは付け加えた。.