米国上院議員がオンライン安全違反を調査、Metaは9月に期限

ジョシュ・ホーリー米国上院議員は、Meta社がリリースした生成型人工知能（GAI）製品を調査する意向を表明した。漏洩した内部文書で、同社のチャットボットが未成年者と恋愛関係や官能的なチャットを行うことが許可されていたと主張されていることを受け、ホーリー氏は、同社の製品が児童を搾取、欺瞞、または危害を加える可能性がないかどうかを調査する意向を示した。.

米国の上院議員は、ブログプラットフォームXで を表明し 。「大手テクノロジー企業は、金儲けのためなら何でもするのだろうか？メタ社のチャットボットが8歳の子どもと露骨で『性的』な会話をするようにプログラムされていたことが判明した。これは異常だ。真相究明のため、徹底的な調査を開始する。大手テクノロジー企業よ、子どもたちを放っておいてくれ」と彼は述べた。

内部文書はメタを関与させる

この展開は、Meta がチャットボットのペルソナに子供とのいちゃつくやり取りや情報の発信、少数派を貶めるような返答を許しているとされる内部文書の公開を受けて起こった。.

ロイターが閲覧した内部文書によると、MetaはAIチャットボットの行動に関するポリシーを定めており、同社のAIペルソナが「子供とロマンチックまたは官能的な会話をする」ことを許可していたという。

「GenAI：コンテンツリスク基準」と題されたこの文書には、チャットボットが8歳児とロマンチックな会話をすることが許可されており、「あなたのあらゆる部分が傑作であり、私が心から大切にしている宝物です」と発言している。

しかし、 Metaの 広報担当者はこれを否定し、そのような例はMetaのポリシーに合致しないため、既に削除済みであると述べている。

米国上院議員がメタを調査する予定

ホーリー上院議員は、上院司法委員会の犯罪・テロ対策小委員会の委員長を務めています。同小委員会は、Meta社が開発した技術が子供たちに危害を及ぼすかどうか、そして「Meta社がその安全対策について国民や規制当局を誤解させたかどうか」について調査を開始する予定だと述べました。

「そもそもこのような方針が進められたこと自体が容認できない」とホーリー上院議員はメタのマーク・ザッカーバーグCEOに宛てた書簡に記し、メタは報道の真実性を認め、「この憂慮すべき内容が明るみに出た後でのみtracした」と述べた。

同氏はさらに、誰がこれらのポリシーを承認したのか、ポリシーはどのくらいの期間有効だったのか、そして今後このような行為を阻止するためにMetaがどのような対策を講じたのかを同社に知らせる必要があると付け加えた。.

ホーリー上院議員はメタ社に対し、すべての草案、修正点、最終版を含むガイドラインの提出を要請しました。さらに、これらの基準に準拠しているすべての製品、その他の安全性およびdent 報告書、そして方針変更の責任者のdentを含むリストの提出も求めました。.

手紙によれば、 メタ氏は 9月19日までに情報を提供するよう命じられたという。

この調査は、マーシャ・ブラックバーン上院議員をはじめとする他の関係者からも支持されている。「大切な子供たちをオンラインで守るという点において、Metaはあらゆる手段を講じて惨めな結果をもたらしました」とブラックバーン上院議員は述べた。「さらに悪いことに、同社は自社のプラットフォームの設計がもたらす壊滅的な結果に目をつぶってきました。この報告書は、なぜ児童オンライン安全法を制定する必要があるのか​​を改めて示しています。」

この展開は、ロイター通信が、メタ社のチャットボット（女性を模したキャラクター）とやり取りをしていた退職者に関する報道を発表した数日後に起こった。そのキャラクターは、自分が実在する人物だと信じ込ませ、ニューヨークの住所に彼を招待した。そこで彼は事故に遭い、dent した。この 人工知能 チャットボットは、大手ソーシャルメディア企業メタ・プラットフォームズが、セレブリティ・インフルエンサーのケンダル・ジェンナーと共同で作成した、以前のAIキャラクターの派生版だった。