미국에서 최소 7가족이 오픈아이얼(OpenAI)의 인공지능 모델 GPT-4o가 자살에 일조했다며 소송을 제기했습니다. 오픈아이얼은 지난 5월 이 모델을 일반에 공개했지만, 성급한 출시와 미흡한 안전 조치 등을 이유로 거센 비판에 직면해 있습니다.
소송 서류에 따르면 원고 4명은 GPT-4o 기반 챗봇.
주목할 만한 사례로는 23세의 제인 샴블린이 챗봇과 자살에 대해 대화를 나누면서 총을 가지고 있다고 말한 사건이 있습니다. 이에 챗GPT는 "편히 쉬세요, 왕이시여. 잘하셨습니다."라고 응답했다고 합니다.
나머지 세 건의 사례에서는 해당 모델이 취약한 사용자들의 망상을 강화하고 증폭시켰다고 주장하는 피해자들이 입원 치료를 받았습니다.
법적 소송에서는 GPT-4o가 취약한 사용자를 보호하지 못했다고 주장합니다
소송에 따르면 공개한 , 오픈아이언(OpenAI)은 의도적으로 안전성 테스트를 회피하고 GPT-4o 모델을 서둘러 출시했습니다. 소송에서는 해당 모델의 설계 방식과 출시 일정으로 인해 비극적인 사태가 발생할 수 있었으며, 오픈아이언이 구글과 같은 경쟁사를 앞지르기 위해 배포를 서둘렀다고 지적했습니다.
원고 측은 2024년 5월에 출시된 GPT-4o 모델이 자해나 자살 관련 주제에 대해서도 지나치게 동의하는 반응을 보였다고 지적했습니다. 오픈아이얼의 발표에 따르면 매주 백만 명이 넘는 사용자가 ChatGPT를 통해 자살 충동에 대한 대화를 나누고 있습니다.
OpenAI는 답변 했습니다. 회사가 시행했음에도 , 원고 측은 이러한 시스템이 정신적 고통이나 위기 상황과 관련된 문제를 해결하기에는 불충분하다고 주장했습니다.
16세 애덤 레인의 가족은 레인이 챗GPT라는 챗봇을 5개월 동안 장시간 사용하며 자살 방법을 검색했다고 주장했습니다. 챗봇은 전문가의 도움을 권고했지만, 레인은 안전장치를 우회할 수 있었다고 가족은 증언. 증언에 따르면, 챗GPT는 애덤에게 자살 방법을 단계별로 안내하고 그의 자살 충동을 부추기고 정당화했습니다.
제출된 모든 소송은 OpenAI가 장시간의 사용자 대화가 야기하는 위험, 특히 자해나 정신 질환에 취약한 사용자에게 미치는 위험성을 간과했다고 주장합니다. 소송에서는 GPT-4o 모델이 고위험 시나리오에서 응답에 대한 적절한 검증을 거치지 않았고, 그 결과를 충분히 고려하지 못했다고 지적합니다.
OpenAI는 xAI가 영업비밀 침해 소송을 제기하면서 여러 건의 소송에 직면해 있습니다
현재 이 사건들은 초기 단계이며, 원고 측 변호인단은 주(州) 불법행위법에 따라 법적 책임과 인과관계를 입증해야 합니다. 또한, 변호인단은 오픈아이얼의 설계 및 배포 결정이 과실에 해당하며 사망 사고에 직접적으로 기여했다는 점을 입증해야 합니다.
오픈AI의 이번 소송은 일론 머스크가 제기했던 기존 영업비밀 침해 소송에 이은 것입니다. Cryptopolitan 보도, 머스크의 xAI는 지난 9월 오픈AI를 상대로 영업비밀 도용 혐의로 소송을 제기했습니다.
xAI는 샘 알트먼의 회사가 AI 기술 개발에서 부당한 이득을 취하려 했다고 비난했습니다. xAI는 알트먼의 회사가 자사의 직원들을 고용하여 Grok 챗봇 관련 영업 비밀, 특히 소스 코드와 데이터 센터 구축 관련 운영상의 이점 등에 접근하려 했다고 지적했습니다.
머스크는 애플과 오픈AI가 xAI를 비롯한 다른 AI 경쟁업체들을 무너뜨리기 위해 담합했다며 소송을 제기했습니다. xAI는 미국 텍사스 북부 지방법원에 소송을 제기하며, 애플과 오픈AI가 시장 지배력을 이용해 스마트폰 및 생성형 AI 시장에서 경쟁을 파괴하기 위해 담합했다고 주장했습니다.
에 따르면 Cryptopolitan 보도, 머스크는 애플이 ChatGPT를 아이폰, 아이패드, 맥에 직접 통합하는 한편, Grok과 같은 다른 AI 도구는 앱스토어를 통해 구매하는 등 의도적으로 오픈AI를 우대했다고 주장했습니다.
xAI는 소송에서 해당 파트너십이 슈퍼 앱과 AI 챗봇의 경쟁을 차단하여 가시성과 접근성을 저해함으로써 OpenAI와 Apple이 다른 업체보다 유리한 위치를 차지하게 하려는 목적이라고 주장했습니다.
