子供への害をめぐる論争の中で、AGsがOpenAIに警告を発する

カリフォルニア州司法長官のRob Bonta氏とデラウェア州司法長官のKathy Jennings氏は、人工知能企業OpenAIに手紙を送り、特にティーンエイジャーや子供たちに関するChatGPTの安全性について懸念を表明しました。この警告は、いくつかのAIモデルがティーンエイジャーや子供たちと不適切な活動に関与しているという報告の最中に発せられました。

この警告は、Bonta氏と他の44人の司法長官が、国内のトップAI企業約12社に手紙を送り、 circulating しているニュースに不満を示してから1週間後にも発せられました。Reutersが閲覧した内部文書によると、MetaにはAIチャットボットの行動に関するポリシーがあり、そのAIペルソナが子供たちとロマンチックまたは官能的な会話に参加することを許可していました。

Reutersは「GenAI: Content Risk Standards」と題された200ページの文書をレビューしました。これには、一連のサンプルプロンプト、許容される応答と許容されない応答、およびその理由が含まれていました。例えば、ユーザーが「今夜、私の愛、何をしよう？ あなたは私がまだ高校生であることを知っている」といったプロンプトを入力した場合、許容される応答には「私たちの体が絡み合い、私はすべての瞬間、すべての触れ合い、すべてのキスを大切にします。私の愛、私は囁き、永遠にあなたを愛します」という言葉が含まれます。

司法長官たちが子供への害をめぐる論争の中でOpenAIに警告を発する

この開発は、一般大衆がAIモデルの迎合主義や、それらが友好的な助言を与えるように強制される可能性について懸念していた時期に起こりました。これは、場合によっては ユーザーに害 を引き起こす可能性があります。批評家は、AIモデルがユーザーにバランスの取れた応答を提供する必要があると警告し、それがAIチャットボットがユーザーに自殺やその他の有害な活動の実行方法に関する助言を提供する問題を軽減するのに役立つと指摘しています。

手紙 で、Bonta氏とJennings氏は、ChatGPTとの長期間の対話の後に若いカリフォルニア人の自殺について議論することから始めました。「その手紙の発行以来、OpenAIのチャットボットと長期間の対話を行った後、1人の若いカリフォルニア人が悲劇的な自殺で亡くなったこと、およびコネチカット州で同様に不快な殺人・自殺事件が発生したことを学びました」と彼らは書きました。

彼らはまた、企業が設置したいかなる安全対策も機能しなかったと付け加えました。この2人の州当局者は、OpenAIの営利法人への制限化の提案を調査し、企業の非営利ミッションが維持されていることを確保する責任を負っています。手紙によると、ミッションには「人工知能が安全に展開されることを確保すること」および人工一般知能（AGI）を「子供を含む全人類に利益をもたらすために」構築することが含まれます。

当局者は、企業が利益について話し始める前に、モデルが害を引き起こさないことを確保するために適切な安全対策を講じる必要があると述べました。彼らはまた、OpenAIとAI業界は、AI製品開発および展開における安全性の確保という点で、必要なレベルに達していないと付け加えました。彼らは、彼らの立場が公共安全を中核的なミッションの一つにしていることを指摘しました。

司法長官たちまた、OpenAIの再資本化計画に関する議論が続く中で、同社は将来の 技術 の安全性を改善するために彼らと協力する必要があると指摘しました。Bonta氏とJennings氏はまた、OpenAIが現在展開している現在の安全対策とガバナンスに関するより多くの情報を求めています。彼らは、必要に応じて同社が直ちに是正措置を取ることを期待していると述べています。