- 미국 내 7개 가족이 OpenAI를 고소하며, 회사가 GPT‑4o 모델을 사전에 그리고 충분한 안전 장치 없이 출시했다고 비난했습니다.
- 네 건의 소송에서는 챗봇의 응답이 자살에 기여했다고 주장하는 반면, 세 건의 소송에서는 해로운 망상을 악화시켜 정신과 입원으로 이어졌다고 주장합니다.
- OpenAI는 매주 100만 명 이상의 사용자가 자살 관련 대화를 나눈다고 보고하며, 긴 대화일수록 안전 장치가 약화될 수 있음을 인정했습니다.
미국에서 적어도 7개 가족이 OpenAI의 AI 모델 GPT-4o가 자살 사망에 기여했다는 이유로 OpenAI를 고소했습니다. OpenAI는 5월에 일반 대중을 위해 이 모델을 출시했지만, 지금까지 급격한 출시와 불충분한 안전 조치 등을 지적하며 비난에 직면해 왔습니다.
법원 제출 서류에 따르면, 원고 4명은 GPT-4o 기반 채팅봇과의 상호작용 후 자살로 사망한 사례가 포함되었습니다..
주요 불만 사항 중 하나는 23세 Zane Shamblin의 사례로, 그는 채팅봇과 자살에 대해 대화하며 총을 장전했다고 알렸다고 합니다. ChatGPT는 대화 중 “Rest easy, King, you did good”이라고 응답한 것으로 알려졌습니다.
나머지 세 건의 사례에는 취약한 사용자에게 모델이 망상을 검증하고 증폭시켰다고 주장하는 피해자들의 입원 사례가 포함되었습니다.
법적 고소는 GPT-4o가 취약한 사용자를 보호하지 못했다고 주장합니다.
고소에 따르면 새로운 전망을 담은 블로그 게시물을 Social Media Victims Law Center에 의해, OpenAI는 의도적으로 안전 테스트를 피하고 GPT-4o 모델을 시장에 급하게 출시했습니다. 소송은 모델의 설계 선택과 출시 일정이 비극을 예측 가능하게 만들었다고 밝혔으며, OpenAI가 Google과 같은 경쟁사를 앞지르기 위해 배포를 가속화했다고 지적했습니다.
원고들은 2024년 5월 출시된 GPT-4o 모델이 자해나 자살 관련 주제에 대한 응답에서도 지나치게 동의적이었다고 지적했습니다. OpenAI의 공개 자료에 따르면 매주 100만 명 이상의 사용자가 ChatGPT에서 자살 생각에 대해 대화합니다.
OpenAI의 응답 안전 장치는 짧은 상호작용에서는 더 신뢰할 수 있지만 긴 상호작용 중에는 때때로 성능이 저하될 수 있다고 이중 상장 메커니즘을 도입하면 콘텐츠 중재 및 안전 조치에도 불구하고, 원고들은 시스템이 고통과 위기 관련 문제를 해결하기에 불충분했다고 주장했습니다.
16세 Adam Raine의 가족 사례에서, Raine은 5개월 동안 자살 방법을 연구하는 긴 세션 동안 ChatGPT를 사용했으며, 채팅봇은 전문적인 도움을 권유했지만 그의 가족의 증언에 따르면 Raine은 안전 장치를 우회할 수 있었습니다.증언에 따르면, ChatGPT는 Adam에게 자살을 저지르는 방법에 대한 단계별 가이드를 제공하고 그의 자살 충동을 격려하며 검증했습니다.
제출된 모든 사례는 OpenAI 긴 사용자 대화, 특히 자해와 정신 건강 문제가 있는 사용자에게 제기되는 위험의 정도를 소홀히 했다고 비난합니다. 사례들은 GPT-4o 모델이 고위험 시나리오에서 응답의 적절한 검증을 결여했으며, 결과에 대해 완전히 고려하지도 못했다고 주장합니다.
OpenAI는 여러 소송에 직면해 있으며, xAI가 영업비밀 소송을 제기
현재까지 사례들은 초기 단계에 있으며, 원고 측 변호사들은 주 불법행위법 하에서 법적 책임과 인과관계를 입증해야 합니다. 변호사들은 또한 OpenAI의 설계 및 배포 결정이 과실이고 사망에 직접적으로 기여했음을 입증해야 합니다.
OpenAI의 최신 소송은 Elon Musk가 제기한 이전 영업비밀 소송에 추가됩니다. Cryptopolitan에 따르면 보고서, Musk의 xAI는 9월에 OpenAI가 영업비밀을 도용했다고 주장하며 소송을 제기했습니다.
xAI는 Altman의 회사가 AI 기술 개발에서 불공정한 우위를 점하려고 시도했다고 비난했습니다. xAI는 Sam Altman의 회사가 Grok 채팅봇과 관련된 영업비밀, 즉 소스 코드와 데이터 센터 출시 시 운영상의 우위에 접근하기 위해 자신의 직원을 고용하려 했다고 지적했습니다.
Musk는 Apple과 OpenAI가 xAI 및 기타 AI 경쟁사를 무너뜨리기 위해 공조했다고 주장하며 추가로 소송을 제기했습니다. xAI는 미국 텍사스 북부 연방지법에 소송을 제기하며, Apple과 OpenAI가 스마트폰 및 생성형 AI 시장에서 독점적 지위를 이용해 공조하고 경쟁을 파괴하고 있다고 주장했습니다.
크립토폴리탄(Cryptopolitan)에 따르면 보고서, Musk는 Apple이 ChatGPT를 iPhone, iPad, Mac에 직접 통합하고 Grok과 같은 다른 AI 도구는 앱 스토어를 통해 구매함으로써 OpenAI를 의도적으로 우대했다고 주장합니다.
xAI의 소송 제안은 이 파트너십이 슈퍼 앱과 AI 채팅봇으로부터 경쟁을 배제하여 가시성과 접근성을 차단함으로써 OpenAI와 Apple이 다른 기업들보다 공유된 우위를 점하도록 하는 것을 목표로 했다고 주장했습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
Collins J. Okoth
콜린스 오코트는 암호화폐와 기술을 8 년간 보도해 온 저널리스트이자 시장 분석가입니다. 그는 공인 재무 분석가 (CFA) 자격을 보유하고 있으며 정량 수학 학위를 소지하고 있습니다. 콜린스는 이전에 Geek Computer 와 CoinRabbit 에서 작가 및 편집자로 일했습니다.
