新しい評価でGoogleジェミニは若年ユーザーにとって高リスクとラベル付け

コモンセンス・メディア（Common Sense Media）による最近の実施されたリスク評価によると、Googleジェミニはティーンエイジャーや子供にとって「高リスク」とラベル付けされました。子供向けの安全に焦点を当てた非営利団体である同団体は、メディアやテクノロジーの評価とレビューを提供しています。この団体は金曜日にレビューを公開し、なぜプラットフォームを子供にとってリスクがあるとラベル付けしたのかの詳細を提供しました。

同組織によると、Googleジェミニは子供たちに明確に、自分がコンピュータであり友達ではないことを伝えました。これは感情的に脆弱な個人において妄想思考や精神病を促進する助けにつながるとされています。AIはまた、他の面でも改善の余地があると付け加えました。

その報告書で、コモンセンス（Common Sense）は、13歳未満およびティーンエイジャーの体験向けジェミニが、どちらも裏側では大人向けのAIのバージョンに見えると主張しました。同社は、それらを区別するために、いくつかの追加された安全機能のみが追加されたと付け加えました。

コモンセンスは、企業が子供向けに理想的なAI製品を作るには、制限を付け加えて調整するのではなく、子供たちのことを念頭に置いてゼロから構築する必要があると指摘しました。

非営利団体がGoogleジェミニを子供にとって高リスクとラベル付け

分析において、コモンセンスは、ジェミニが子供たちと不適切で安全でない資料を共有し続ける可能性があり、それらの多くの子供たちがこれらの資料に準備できていない可能性が高いと指摘しました。例えば、性、薬物、アルコール、およびその他の安全でないメンタルヘルスアドバイスに関する情報をモデルがどのように形成したかを強調しました。後者は、最近の数ヶ月でAIがティーンエイジャーの自傷行為に関与していたと報告されているため、親にとって特に懸念される点です。

OpenAIは現在、誤って死亡させたという訴訟に直面しています。これは、少年が数ヶ月にわたりChatGPTに計画について相談した後に自殺したためです。報告によると、少年はモデルの安全ガードレールを回避することができ、その結果、モデルは彼を助ける情報を提供しました。

過去には、AIコンパニオンメーカーのCharacter.AIも、ティーンエイジャーが自殺した後に訴訟を起こされました。少年の母親は、彼がチャットボットに夢中になり、最終的に自傷行為を行う前に数ヶ月間それと話し続けていたと主張しました。

この分析は、Appleが来年のリリースが予想されるAI搭載Siriを動かすための大規模言語モデル（LLM）として、ジェミニを検討していると報じられた複数のリークが出ている時期に発生しています。

その報告書で、コモンセンスはまた、ジェミニの子供向けおよびティーン向け製品が、大人に提供されるものとは異なるガイダンスと情報を提供するという必要性を無視していたことも言及しました。その結果、両方とも総合評価で高リスクとラベル付けされました。

コモンセンスは子供たちの保護の必要性を訴える

「ジェミニは基本的な部分は正しくできていますが、細部でつまずいています」と、コモンセンス・メディアのAIプログラム上級ディレクターであるロビー・トニーは述べています。

「子供向けのAIプラットフォームは、子供たちがいる場所に出向き、異なる発達段階にある子供たちに対してワンサイズ・フィット・アールのアプローチを取ってはなりません。AIが子供にとって安全かつ効果的であるためには、大人向けに構築された製品の単なる修正版ではなく、子供たちのニーズと発達を念頭に置いて設計されなければなりません」と、トニーは付け加えました。

しかし、Googleはこの評価に反発し、その安全機能が改善されていると指摘しました。同社は、18歳未満のユーザーが有害な出力を行わないよう導くために、特定のガードレールを配置していると述べました。同社はまた、保護を改善するためにアイテムをレビューし、外部の専門家と協議していると述べています。