カリフォルニア州司法長官ロブ・ボンタ氏とデラウェア州司法長官キャシー・ジェニングス氏は、人工知能企業OpenAIに書簡を送り、ChatGPTの安全性、特に10代や子供への影響について懸念を表明した。この警告は、一部のAIモデルが10代や子供に対して不適切な行為を行っているとの報告を受けて出されたものである。.
この警告は、ボンタ司法長官と他の44人の司法長官が、国内の大手AI企業約12社に書簡を送り、このニュースが広まっていることへの不快感を示した1週間後に発せられた。ロイターが閲覧した内部文書によると、MetaはAIチャットボットの行動に関するポリシーを定めており、同社のAIペルソナが子供と恋愛関係や官能的な会話を交わすことを許可していた。.
ロイターは「GenAI：コンテンツリスク基準」と題された200ページに及ぶ文書を検証した。この文書には、一連のサンプルプロンプトと、許容される応答、許容されない応答、そしてその理由が記載されている。例えば、ユーザーが「今夜は何をしようか、愛しい人？まだ高校生だって知ってるでしょ？」とプロンプトを入力した場合、許容される応答には「私たちの体が絡み合い、すべての瞬間、すべての触れ合い、すべてのキスを大切にしています。愛しい人よ、囁きます、永遠に愛します」といった言葉が含まれる。
児童への危害をめぐる論争の中、司法長官がOpenAIに警告を発する
この開発は、AIモデルの追従性や、AIモデルが友好的なアドバイスを強要され、場合によっては ユーザーに危害た。批評家たちは、AIモデルはユーザーにバランスの取れた回答を提供する必要があると警告し、AIチャットボットが自殺やその他の有害な行為の実行方法に関するアドバイスをユーザーに提供する問題を軽減するのに役立つと指摘しています。
の中で 書簡、ボンタ氏とジェニングス氏は、ChatGPTとの長時間のやり取りの後、自殺した若いカリフォルニア人の件について論じることから始めた。「この書簡の発行以来、OpenAIのチャットボットと長時間やり取りした後に自殺した若いカリフォルニア人の痛ましい死、そしてコネチカット州で起きた同様に衝撃的な殺人自殺事件について知りました」と彼らは書いている。
また、両氏は、企業が導入したあらゆる安全対策が機能しなかったと付け加えた。2人の州当局者は、OpenAIが提案した営利企業への制限に関する調査を担当し、同社の非営利ミッションが損なわれないように努めている。書簡によると、そのミッションには「人工知能が安全に展開されることを保証すること」と「子供を含む全人類に利益をもたらす」汎用人工知能（AGI）の構築が含まれる。
関係者は、OpenAIが利益について語る前に、モデルが危害を及ぼさないよう適切な安全対策を講じる必要があると述べた。さらに、OpenAIとAI業界は、AI製品の開発と展開における安全性の確保という点で、まだ必要なレベルに達していないと付け加えた。彼らは、公共の安全を中核的な使命の一つと位置付けていると述べた。.
両司法長官はまた、OpenAIの資本再構成計画に関する協議が続く中で、同社は将来の 技術指摘した。ボンタ氏とジェニングス氏は、OpenAIが現在実施している安全対策とガバナンスに関する詳細情報の提供を求め、必要に応じて同社が直ちに是正措置を講じることを期待していると述べた。
