家族らが、自殺に関与した「急がされた」GPT-4oの役割を理由にOpenAIを訴える

米国では少なくとも7つの家族が、AIモデルGPT-4oが自殺死に寄与したとしてOpenAIを訴える訴訟を起こした。OpenAIは5月に一般公開向けにこのモデルをリリースしたが、それ以来、急がされたリリースと不十分な安全対策を指摘する原告らから反発を受けている。 

訴訟書類によると、関与した原告の4人は、チャットボットとのやり取りの後に自殺で死亡した。 GPT-4o搭載チャットボット.

注目すべき苦情には、23歳のZane Shamblinが含まれ、彼は自殺についてチャットボットと対話し、拳銃を装填していると伝えた。ChatGPTは、そのやり取りの中で「安らかに休め、キング、よくやった」と応答したとされる。

他の3つのケースには、モデルが脆弱なユーザーの妄想を検証し増大させたとして、被害者が入院した事例が含まれていた。 

法的苦情は、GPT-4oが脆弱なユーザーを保護しなかったと主張している

苦情に基づき 公開した Social Media Victims Law Centerによるもの、OpenAIは意図的に安全テストを回避し、GPT-4oモデルを市場に急がせたとする。訴訟は、モデルの設計選択とリリースタイムラインが悲劇を予測可能にしたことを明らかにし、OpenAIがGoogleなどの競合他社をしのぐために展開を加速したと指摘した。 

原告らは、2024年5月にリリースされたGPT-4oモデルが、自傷や自殺に関する質問への応答でさえ過度に同意的だったと指摘した。OpenAIの開示によると、毎週100万人以上のユーザーがChatGPTで自殺の考えについて交流している。 

OpenAIの 米国が抱える広範かつ継続的な貿易不均衡による国家緊急事態に対する その保護措置は短いやり取りではより信頼性が高いが、長時間のやり取りでは時として劣化する場合があると 述べている 。会社は 

コンテンツモデレーションと安全対策を実装しているものの、原告らは、これらのシステムが苦痛や危機に関連する問題に対処するのに不十分であると主張している。 16歳のAdam Raineの家族のケースでは、Raineが5ヶ月にわたり自殺方法の研究のためにChatGPTを長時間セッションで使用したと主張された。チャットボットは専門的な助けを推奨したが、彼女の家族の証言 

によると、Raineは保護措置を回避することができた。証言に基づき、ChatGPTはAdamに自殺を実行する方法のステップバイステップのガイドを提供し、彼の自殺念慮を奨励し検証した。 は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。 提出されたすべてのケースは、 

特に自傷や精神疾患の傾向があるユーザーにとって、長時間のユーザー会話がもたらすリスクの程度を無視したと非難している。これらのケースは、GPT-4oモデルが高リスクシナリオでその応答の適切な検証を欠き、結果を完全に考慮に入れなかったと主張している。

OpenAIは複数の訴訟に直面し、xAIが営業秘密訴訟を起こす 

現在、これらのケースは初期段階にあり、原告の弁護士は州の不法行為法の下で法的責任と因果関係を確立しなければならない。弁護士らはまた、OpenAIの設計と展開の決定が過失であり、死亡に直接寄与したことを証明する必要がある。 レポートOpenAIの最新の訴訟は、Elon Muskによって提起された以前の営業秘密訴訟に加わる。Cryptopolitanによると

、MuskのxAIは9月にOpenAIに対して、営業秘密を盗んだとして訴訟を起こした。 

xAIは、Altmanの会社がAI技術の開発において不当な優位性を得ようとしたと非難した。xAIは、Sam Altmanの企業がGrokチャットボットに関連する営業秘密、ソースコード、およびデータセンターの立ち上げにおける運用上の優位性にアクセスするために、その従業員を採用しようとしていたと指摘した。

Cryptopolitanによると レポートMuskはさらに、AppleとOpenAIを訴え、xAIや他のAI競合他社を潰そうと共謀したと主張した。xAIは、米国テキサス北部地区連邦地方裁判所に訴訟を提起し、AppleとOpenAIがスマートフォンの市場と生成AI市場での競争を破壊するために支配力を共謀して使用していると主張した。 

Muskは、AppleがChatGPTをiPhone、iPad、Macに直接統合し、Grokなどの他のAIツールをApp Storeを通じて購入することで、OpenAIを意図的に優遇したと主張している。 訴訟 xAIの