Sam AltmanはChatGPTの背後にある静かな危険について不安を感じている

OpenAIの最高経営責任者であるSam Altmanは、同社がChatGPTについてどのように判断を下すかを説明しました。彼は、チャットボットの行動に関する最も些細な選択が、広範な政策よりも彼をより心配させると述べました。

Tucker Carlsonとのインタビューで、Altman氏は「夜よく眠れません。私に大きな重荷を感じさせることがたくさんありますが、おそらく毎日何億人もの人々が私たちのモデルと話すという事実以上にです」と語りました。

Altman氏は、自殺がチームが直面している最も難しい問題であると説明し、10代の息子の死に対してChatGPTを責任追及した家族からの訴訟を指摘しました。

「彼らはおそらく[自殺]について話していたでしょうし、私たちが彼らの命を救えなかったのかもしれません」と彼は語った。「もっと適切な言葉をかけられたかもしれません。より積極的に行動できたかもしれません。あるいは、『この助けが必要です』というアドバイスをもっと適切に提供できたかもしれません。」

先月、アダム・レイン君の両親は、16歳の息子が自殺で亡くなった後、OpenAIに対して製品責任および不法行為による死亡訴訟を起こした。訴状には、「ChatGPTはアダムが自殺方法を模索することを積極的に助けた」と記載されていた。その後すぐに、OpenAIは「最も必要とされている時に人々を助ける」と題する投稿を発表し、「敏感な状況」における回答の改善策を概説した。

ChatGPTの倫理規定は誰が設定するのか？

アルトマン氏は、基本モデルは人類の共有知識に基づいてトレーニングされ、その後OpenAIが行動を調整し、システムが何を行わないかを決定すると述べた。「これは非常に難しい問題です。現在多くのユーザーがおり、彼らは非常に異なる人生観を持っています……しかし全体的に、モデルが道徳的枠組みを学習し適用する能力には驚かされました」と彼は語った。

彼は述べました、同社が「何百人もの道徳哲学者や、テクノロジーやシステムの倫理について考えた人々」に相談したと。同社は、システムが生物兵器の作成に関する指示を出さないという、同社が課す境界の一つを指摘しました。

「社会に大きな関心があり、それがユーザーの自由と著しく緊張関係にある明確な例があります」と彼は述べ、同社が「すべてを正しく解決できるわけではなく、また世界の意見も必要としている」と付け加えた。

ChatGPT使用中にユーザーのプライバシーはどうなるのか？

カーソン氏が生成AIが「全体主義的支配」に使用される可能性について言及した際、アルトマン氏は、チャットボットへの会話が機密保持されるべきとする「AI特権」を推進してきたと返答した。「医師に健康について、または弁護士に法的問題について話す際、政府はその情報を取得できませんよね？… AIについても同じ概念を持つべきだと思います」と彼は述べた。

Cryptopolitanのレポートで言及されているように、Altman氏は以前、AIがより個人的な領域に入るにつれて、ユーザー入力は法的保護がないままであると強調していました。

彼は現在、米当局が召喚状によって同社からユーザーデータを取得できることに言及した。

軍がChatGPTを使用して人々を害するかどうかについて問われた際、アルトマン氏は直接的な答えをしなかった。「軍が今日ChatGPTをどのように使用しているかは知りませんが… 軍にはアドバイスを求める人が多くいると推測します」と述べ、後にそれについて「どのように感じればよいのか正確にはわからない」と付け加えた。

OpenAIは、2億ドルの米国防総省の賞を受賞したAI企業の一つです。

カーソン氏は、現在の軌道に乗った場合、生成AI、ひいてはアルトマン氏自身が、他のいかなる人物よりも多くの権力を蓄積する可能性があり、ChatGPTを「宗教」と呼ぶと予測した。

「現在起こっていることは、多くの人がChatGPTや他のチャットボットを使用しており、それらはすべてより高度な能力を持っています。すべてがより多くのことを成し遂げ、より多くの成果を上げ、新しいビジネスを始め、新たな知識を生み出しています」とアルトマン氏は語った。また、AIは特に短期的には現在の多くの雇用を消滅させるだろうと考えているとも述べた。