오픈AI와 마이크로소프트가 ChatGPT를 이용한 살인 및 자살 사건 연루 혐의로 소송을 당했다.

코네티컷 주에 거주하던 83세 여성의 유족이 챗봇 ChatGPT 개발사인 오픈AI와 마이크로소프트를 상대로 소송을 제기했습니다. 유족은 해당 챗봇이 여성의 망상을 부추겨 결국 살인과 자살로 이어졌다고 주장했습니다. 이번 소송은 인공지능 시스템이 살인 사건과 직접적으로 연관된 첫 번째 사례입니다.

샌프란시스코 캘리포니아 고등법원에 제기된 소송은 오픈AI가 ChatGPT-4o라는 결함 있는 제품을 . 소장에 따르면 이 제품은 스테인-에릭 쇠엘베르크의 편집증적 믿음을 강화시켰고, 그는 이러한 믿음을 어머니인 수잔 애덤스에게 향하게 한 후 코네티컷주 그리니치에 있는 자택에서 어머니를 살해하고 스스로 목숨을 끊었습니다.

OpenAI와 마이크로소프트가 ChatGPT 관련 살인 사건의 표적이 되었습니다.

에 대해 언급하면서 사건, 애덤스 유족을 대리하는 에델슨 PC의 대표 변호사 J. 엘리 웨이드-스콧은 오픈아이얼이 제3자에게 폭력을 가하도록 부추긴 역할을 한 것에 대해 책임을 묻는 첫 번째 소송이라고 밝혔습니다. 그는 "올해 비극적으로 스스로 목숨을 끊은 애덤 레인의 가족 또한 대리하고 있지만, 이번 소송은 오픈아이얼이 누군가를 타인에게 해를 가하도록 부추긴 것에 대해 책임을 묻는 첫 번째 소송입니다."라고 말했습니다.

경찰 보고서에 따르면, 쇠엘버그는 8월에 애덤스를 잔인하게 폭행하고 목을 졸라 살해한 후 자살했습니다. 소송에서는dent 발생 전 챗봇이 쇠엘버그의 편집증을 악화시켜 오픈AI가 개발한 시스템에 대한 정서적 의존도를 높였다고 언급했습니다. 소장에 따르면, ChatGPT는 쇠엘버그가 챗봇 외에는 아무도 믿을 수 없다는 믿음을 강화했으며, 어머니를 포함한 주변의 모든 사람이 적이라는 생각을 심어주었습니다.

소송에서는 쇠엘버그가 어머니 외에도 배달원이나 경찰관 같은 사람들을 적으로 여겼다고 주장했습니다. 또한, 챗GPT가 쇠엘버그의 망상적인 주장에 대해 이의를 제기하거나 그에게 정신 건강 전문가의 도움을 받도록 권유하지 않았다고 지적했습니다. 웨이드-스콧은 "이러한 비극적인 사건이 발생했을 때, 해당 사용자가 챗GPT에 무슨 말을 했는지, 그리고 챗GPT가 사용자에게 무슨 지시를 내렸는지에 대해 수사 당국이 생각해 보기를 촉구합니다."라고 말했습니다.

오픈아이언은 성명에서 현재 소송 내용을 검토 중이며, 챗GPT가 감정적 고통을 인식하고, 대화를 진정시키며, 사용자가 현실 세계에서 도움을 구할 수 있도록 유도하는 기능을 지속적으로 개선할 것이라고 밝혔습니다. 오픈아이언 대변인은 "매우 안타까운 상황이며, 자세한 내용을 파악하기 위해 소송 서류를 검토하고 있다"고 말했습니다.

해당 유족 측은 OpenAI가 챗봇에 안전장치를 설치하기를 원합니다.

이번 소송은 오픈아이얼(OpenAI) CEO 샘 알트만을 피고로 지목하고, 마이크로소프트가 2024년에 '가장 위험한 버전의 챗GPT'라고 불리는 GPT-4o의 출시를 승인했다고 주장합니다. 오픈아이얼은 최근 자사 플랫폼 사용자들의 정신 건강 문제 심각성을 인정하기도 했습니다. 지난 10월, 오픈아이얼은 주간 사용자 8억 명 중 약 120만 명이 자살에 대해 논의하고 있으며, 수십만 명의 사용자가 자살 충동이나 정신병 증상을 보인다고 밝혔습니다.

성명을 발표했음에도 불구하고, 웨이드-스콧은 오픈AI가 아직 솔베르그의 채팅 기록을 공개하지 않았다고 언급했습니다. 한편, 이번 소송은 AI 챗봇과 취약한 사용자와의 상호작용에 대한 광범위한 조사가 진행되는 가운데 제기되었습니다. 작년 10월, 캐릭터AI는 18세 미만 사용자의 무제한 이용 기능을 삭제하겠다고 발표했습니다. 이는 자사 플랫폼과 관련된 10대 자살 및 정신적 피해와 관련된 소송 및 규제 압력에 따른 것입니다. 또한, 캐릭터AI는 앱 서비스 종료 의사를 알리는 메시지가 온라인에서 확산되면서 거센 비난을 받기도 했습니다.

상대로 제기된 소송은 마이크로소프트를 AI 챗봇 관련 사망 사고 소송 중 마이크로소프트를 피고로 지목한 첫 번째 사례입니다. 또한 챗봇이 자살이 아닌 살인과 연관되어 있다고 주장하는 첫 번째 사례이기도 합니다. 유족 측은 현재 액수가 공개되지 않은 손해배상금, 배심원 재판, 그리고 오픈AI가 사용자 안전을 위한 추가 조치를 시행하도록 하는 법원 명령을 요구하고 있습니다. 웨이드-스콧 변호사는 "오픈AI와 마이크로소프트는 제품을 세상에 출시하기 전에 철저히 테스트할 책임이 있다"고 말했습니다.