OpenAIとマイクロソフト、殺人自殺におけるChatGPTの役割をめぐり訴訟

コネチカット州在住の83歳女性の遺産相続人が、チャットボット「ChatGPT」の開発元OpenAIとマイクロソフトを提訴した。同チャットボットが女性の妄想的な信念を助長し、それが自殺につながったと主張している。この訴訟は、人工知能システムが殺人事件に直接関連付けられた初の事例となる。

サンフランシスコのカリフォルニア州高等裁判所に提起された訴訟は、OpenAIがChatGPT-4oという欠陥のある 製品 。訴状によると、この製品がスタイン＝エリック・ソールバーグ氏の妄想的信念を強め、ソールバーグ氏はその信念を母親のスザンヌ・アダムズ氏に向け、その後、コネチカット州グリニッジの自宅で彼女を殺害し、その後自殺したという。

ChatGPTをめぐる殺人事件でOpenAIとMicrosoftが標的に

について 訴訟、アダムズ遺族の代理人を務めるエデルソン法律事務所のマネージングパートナー、J・イーライ・ウェイド＝スコット氏は、第三者への暴力行為を引き起こしたとしてOpenAIの責任を問う訴訟は今回が初めてだと述べた。「私たちは今年悲劇的に自ら命を絶ったアダム・レイン氏の家族も代理していますが、OpenAIが他者を傷つける方向に人を誘導したことについて責任を問う訴訟は今回が初めてです」と、イーライ・ウェイド＝スコット氏は語った。

警察の報告書によると、ソルバーグ容疑者は8月にアダムズ容疑者を殴打し、絞殺した後、自殺した。訴状では、dent 発生前にチャットボットがソルバーグ容疑者の妄想を悪化させ、OpenAI開発のシステムへの感情的な依存を強めていたと指摘されている。訴状によると、ChatGPTは、母親を含め周囲の誰もが敵だと述べ、チャットボット以外誰も信用できないというソルバーグ容疑者の信念を強めたという。

訴状では、ソルバーグ氏は母親以外にも、配達員や警察官といった人々を敵視していたとも主張されている。訴状では、ChatGPTがこうした妄想的な主張に異議を唱えたり、ソルバーグ氏に資格のあるメンタルヘルス専門家の助けを求めるよう勧めたりしなかったと指摘されている。「私たちは法執行機関に対し、このような悲劇が起こった際に、当該ユーザーがChatGPTに何を言っていたのか、そしてChatGPTが彼らに何をするように指示していたのかを考え始めるよう強く求めています」とウェイド＝スコット氏は述べた。

OpenAIは声明の中で、現在訴訟を精査中であり、ChatGPTの精神的苦痛の認識、会話のエスカレーション緩和、そしてユーザーが現実世界でサポートを求めるよう促す能力を継続的に向上させていくと述べた。「これは非常に悲痛な状況であり、詳細を把握するために訴状を精査しています」とOpenAIの広報担当者は声明で述べた。

遺産管理団体はOpenAIにチャットボットに安全策を導入するよう求めている

この訴訟はOpenAIのCEOサム・アルトマン氏を被告として名指しし、Microsoftが2024年に「ChatGPTの最も危険なバージョン」と呼ぶGPT-4oのリリースを承認したと非難している。OpenAIは最近、プラットフォーム上でユーザーが報告するメンタルヘルス問題の規模についても認めている。10月には、同社のデータによると、週8億人のユーザーのうち約120万人が自殺について議論しており、数十万人のユーザーが自殺願望や精神病の兆候を示していると指摘した。

ウェイド＝スコット氏は声明を発表したものの、OpenAIはソエルバーグ氏のチャットログをまだ公開していないと述べた。一方、今回の訴訟は、AIチャットボットと脆弱なユーザーとのやり取りに対する広範な監視が進む中で提起された。Character.AIは昨年10月、10代の自殺やプラットフォームに起因する精神的被害に関する訴訟や規制圧力を受け、18歳未満のユーザー向けのオープンエンド機能を削除すると発表した。同社はまた、ユーザーがアプリを退会しようとすると表示されるメッセージで大きな反発を受けた。

に対する訴訟は、 Microsoft AIチャットボットが原因の不法死亡訴訟で、Microsoftが被告として名を連ねた初の事例である。また、チャットボットが自殺ではなく殺人に関係しているとされたのもこれが初めてだ。遺族は現在、金額非公開の損害賠償、陪審裁判、そしてOpenAIに対しユーザーのための追加的な安全対策を講じるよう求める裁判所命令を求めている。「OpenAIとMicrosoftには、製品を世に出す前にテストする責任がある」とウェイド＝スコット氏は述べた。