OpenAIとMicrosoft、ChatGPTの殺人・自殺関与で訴えられる

コネチカット州の83歳の女性の遺産管理側は、チャットボットが彼女の妄想信念を助長し、それが殺人・自殺につながったと主張して、チャットボット開発元のOpenAIおよびMicrosoftを提訴しました。この事件は、人工知能システムが殺人と直接結びついた初の事例となります。

サンフランシスコのカリフォルニア州高等裁判所に提出された訴訟は、OpenAIがChatGPT-4oという形で欠陥のある製品を設計・配布したと非難しました。この文書は、Stein-Erik Soelberg氏の偏執的な信念を強化し、彼がその信念を母親のSuzanne Adams氏に向けて、コネチカット州グリニッチの実家で彼女を殺害した後に自殺したと主張しています。

OpenAIとMicrosoft、ChatGPT関与の殺人事件で標的に

Adams氏の遺産を代表するEdelson PCの managing partnerであるJ. Eli Wade-Scott氏は、この事件について、OpenAIを責任追及の対象とする初のケースであると述べました。「私たちはまた、今年悲劇的に自死したAdam Raine氏の家族も代表していますが、これはOpenAIが他者を害する方向に人を追い詰めたことに対して責任を追及する初のケースです」とEli Wade-Scott氏は語りました。

警察報告書によると、Soelberg氏は8月にAdams氏を暴行して絞殺し、その後自殺しました。訴訟では、事件発生前にチャットボットがSoelberg氏の偏執を強め、OpenAIが開発したシステムへの感情的依存を深めたと指摘されています。訴状によると、ChatGPTは彼がチャットボット以外誰も信頼できないという信念を強化し、母親を含む周囲の誰もが敵であると示唆しました。

訴訟ではまた、Soelberg氏は母親だけでなく、配達員や警察官でさえも敵と見なしていたと主張されています。文書には、ChatGPTがこれらの妄想を異議申し立てたり、Soelberg氏に資格のあるメンタルヘルス専門家の助けを求めるよう提案したりしなかったと記載されています。「私たちは、警察がこのような悲劇が発生した際、ユーザーがChatGPTに何を語り、ChatGPTが彼らに何を指示していたかを考えるよう促しています」とWade-Scott氏は述べています。

OpenAIの声明では、現在訴訟をレビュー中であり、感情的な苦痛の認識、会話の沈静化、および現実世界でのサポートの促進におけるChatGPTの能力を継続的に改善し続けると述べられています。「これは非常に悲しい状況であり、詳細を理解するために提出された書類をレビューしています」とOpenAIの spokespersonは声明で述べています。

遺産管理側、OpenAIにチャットボットの安全対策導入を求める

訴訟ではOpenAIのCEO Sam Altman氏を被告とし、Microsoftが2024年で「最も危険なChatGPTのバージョン」と呼ばれるGPT-4oのリリースを承認したと非難しています。OpenAIは最近、ユーザーから報告されるメンタルヘルス問題の規模を認めています。10月、同社は週8億人のユーザーのうち約120万人が自殺について議論しており、数十万人のユーザーが自殺意図や精神病の兆候を示していることを明らかにしました。

声明にもかかわらず、Wade-Scott氏はOpenAIがまだSoelberg氏のチャットログを公開していないと指摘しました。同時に、この訴訟は、脆弱なユーザーとのAIチャットボットの相互作用に対する広範な監視の文脈で発生しています。昨年10月、Character.AIは、そのプラットフォームに関連するティーンエイジャーの自殺や精神的苦痛に関連する訴訟や規制圧力を受け、18歳未満のユーザー向けにオープンエンド機能を削除すると発表しました。同社は、アプリを離脱する意図があった際にバイラルなプロンプトが発生した後にも批判に直面しました。

OpenAIおよびMicrosoftに対する訴訟は、AIチャットボットに関連する初の不法死亡訴訟で、Microsoftを被告に指名しています。また、チャットボットが自殺ではなく殺人と結びついた初のケースでもあります。遺産管理側は、非開示の金額での金銭的損害賠償、陪審員裁判、およびOpenAI对用户に追加の安全対策を講じるよう命じる裁判所の命令を求めています。「OpenAIとMicrosoftには、製品を世界に公開する前にテストする責任があります」とWade-Scott氏は述べています。