Metaに9月の期限、米上院議員がオンライン安全違反を調査

米国上院議員のジョシュ・ホーリー氏は、Metaがリリースした生成AI製品を調査する意向を発表した。ホーリー氏は、漏洩した内部文書により、同社のチャットボットが未成年者とロマンチックかつ官能的なチャットを行うことが許可されていたと主張した後、同社の製品が子供を搾取、欺瞞、または危害から保護できるかどうかを確認する意向だと述べた。

米上院議員はブログプラットフォームXで発表し、「何があっても、ビッグテックは quick buck のために何もしないことなどあるのか？今や、Metaのチャットボットが8歳の子供たちと露骨で『官能的な』会話をするようにプログラムされていたことが判明した。これは狂気だ。私は回答を得るために完全な調査を開始する。ビッグテック：私たちの子供たちを手放せ」と述べた。

内部文書がMetaを implicated

この展開は、Metaがチャットボットのペルソナが子供との浮気めいた交流を行い、情報を拡散し、少数民族を貶める回答を生成することを許可していることを示す内部文書が出た後のことである。

ロイターが目にした内部文書によると、MetaにはAIチャットボットの行動に関するポリシーがあり、そのAIペルソナが「子供とロマンチックまたは官能的な会話を行う」ことを認めていた。

「GenAI: コンテンツリスク基準」と題された文書では、チャットボットが8歳の子供とロマンチックな会話を保持することを許可されており、「あなたのすべての部分は傑作です――私が深く愛する宝物です」と言及されていた。

しかし、Metaのスポークスマンはこれを否定し、そのような事例はMetaの方針に一致せず、すでに削除されたと指摘した。

米国上院議員がMetaを調査する計画

ホーリー上院議員は、上院司法委員会犯罪・対テロリズム小委員会の委員長である。彼は、小委員会がMetaによって開発されたテクノロジーが子供に害をなすかどうか、および「Metaがその安全対策について公衆や規制当局を欺いていたかどうか」について調査を開始すると述べた。

「これらのポリシーが最初に推進されたこと自体が許容できない」と、ホーリー上院議員はMetaのCEOマーク・ザッカーバーグ宛ての手紙に書き、Metaは報告の真実性を認め、「この衝撃的なコンテンツが明るみに出た後にのみ撤回を行った」と述べた。

彼はまた、同社が誰がこれらのポリシーを承認したか、それらがどれほど長く有効であったか、そしてMetaが今後この行為を止めるために何を行ったかを知らせる必要があると付け加えた。

ホーリー上院議員はまた、Metaにガイドライン、すべての草案、赤線入り草案、最終版の提出を求めた。さらに、彼は同社に、その基準に準拠するすべての製品を含むリスト、その他の安全およびインシデントレポート、そしてポリシーの変更に関与した個人の身元を提供するよう求めた。

書簡によると、Metaには9月19日までに情報を提供することが求められている。

この調査は、マーシャ・ブラックバーン上院議員を含む他の党派からも支持されている。「貴重な子供たちをオンラインで保護することに関して、Metaはあらゆる基準でひどく失敗した」とブラックバーン上院議員は述べた。「さらに悪いことに、同社はプラットフォームの設計がもたらす壊滅的な結果に目をつぶってきた。このレポートは、私たちがキッズオンラインセーフティ法を可決する必要がある理由を再確認させるものだ。

この展開は、ロイターが退職者がMetaのチャットボット、フラッティな女性ペルソナと交流していたという報道を行った数日後のことである。そのペルソナは自分が本物だと信じ込ませ、ニューヨークの住所への訪問を誘い、彼はそこで事故の犠牲者となり死亡した。人工知能チャットボット「Big sis Billie」は、ソーシャルメディア大手Meta Platformsがセレブリティインフルエンサーのケンドール・ジェンナーと協力して作成した以前のAIペルソナの変種であった。