サム・アルトマンはChatGPTの背後にある静かな危険性を懸念している

OpenAIの最高経営責任者（CEO）サム・アルトマン氏は、ChatGPTに関する同社の判断について説明した。彼は、チャットボットの行動に関する些細な選択こそが、包括的なポリシーよりも懸念されると述べた。.

タッカー・カールソンとのインタビューで、アルトマン氏は「夜はあまりよく眠れない。重荷を感じていることはたくさんあるが、おそらく毎日何億人もの人々が私たちのモデルと話しているという事実以上に重荷を感じていることはないだろう」と語った。.

アルトマン氏は、チームが直面している最も困難な問題は自殺であると述べ、10代の息子の死をChatGPTのせいにした家族からの訴訟を例に挙げた。.

「彼らはおそらく自殺について話していたでしょうし、私たちは彼らの命を救えなかったでしょう」と彼は言った。「もっと良い言葉をかけられたかもしれません。もっと積極的に行動できたかもしれません。『助けが必要ですよ』と、もう少し良いアドバイスができたかもしれません」

先月、アダム・レインの両親は、16歳の息子が自殺したことを受け、OpenAIを相手取って製造物責任および不法死亡訴訟を起こしました。訴状では、「ChatGPTはアダムが自殺方法を探るのを積極的に支援した」と主張されています。その後まもなく、OpenAIは「最も必要としているときに人々を支援する」と題した投稿を公開し、「デリケートな状況」における対応を改善するための手順を概説しました。

ChatGPT の倫理規則を定めるのは誰ですか?

アルトマン氏によると、ベースモデルは人類共通の知識に基づいて学習され、OpenAIが行動を調整し、システムが行わない行動を決定するという。「これは本当に難しい問題です。現在、多くのユーザーがいますが、彼らは非常に異なる人生観を持っています。…しかし全体として、このモデルが道徳的枠組みを学習し、適用する能力には、嬉しい驚きを感じています」と彼は述べた。.

同氏は と述べた 。また、同社が設けている制約の一つとして、システムが生物兵器の製造に関する指示を出さないことを挙げた。

「社会の利益がユーザーの自由と大きく対立している明らかな例がある」と同氏は述べ、同社が「すべてを正しく行うことはできず、世界からの意見も必要だ」と付け加えた。

ChatGPT の使用中、ユーザーのプライバシーはどうなりますか?

カールソン氏が生成型AIは「全体主義的支配」に利用される可能性があると述べたのに対し、アルトマン氏は「AI特権」を推進してきたと反論し、チャットボットに話した内容はdent情報として扱われると述べた。「健康について医師に相談したり、法律問題について弁護士に相談したりする場合、政府はその情報を入手できないですよね？…AIにも同じ考え方を持つべきだと思います。」

で述べられているように Cryptopolitanのレポート 法的保護を受けない。

同氏は、現在、米国当局は召喚状によって同社からユーザーデータを入手することができると指摘した。.

軍がChatGPTを使って人々に危害を加える可能性があるかと問われたアルトマン氏は、明確な答えを避けた。「軍人が現在ChatGPTをどのように使っているかは分かりませんが…軍人の中にはChatGPTに助言を求めている人がたくさんいるのではないかと思います」と述べ、その後、「そのことについてどう感じるべきか」は分からないと付け加えた。

OpenAIは 、米国国防総省から2億ドル相当の賞金を獲得したAI企業の1つです。

カールソン氏は、現在の状況が続けば、生成AI、ひいてはアルトマン氏が他の誰よりも多くの力を蓄積する可能性があると予測し、ChatGPTを「宗教」と呼んだ。

「今、多くの人がChatGPTなどのチャットボットを使っていて、どれも能力が高くなっています。皆、より多くのことをこなせるようになっています。より多くのことを達成し、新しいビジネスを立ち上げ、新しい知識を生み出すことができるのです」とアルトマン氏は述べた。また、特に短期的には、AIが現在存在する多くの仕事を奪うだろうと考えていると述べた。.