- ChatGPT는 뉴멕시코주에서 변호인 스티븐 아론스가 제기한 살인 사건 상소심에서 허위 증언을 발명했습니다.
- 스티븐은 제출 서류를 확인하지 않아 5,000달러의 벌금과 징계 위원회 송부 조치를 받았습니다.
- 오스카 레네 산도발의 상소는 아직 진행 중이며, 현재 공선변호사 킴 차베즈 쿡이 담당하고 있습니다.
뉴멕시코의 한 변호사는 살인 혐의에 맞서 방어하기 위해 ChatGPT를 사용했다. 그는 이후 뉴멕시코 주 대법원에 가짜 경찰 진술과 증인 진술이 포함된 소장을 제출했다.
뉴멕시코 주 대법원은 변호사 스티븐 아론스(Stephen Aarons)가 AI 생성 자료를 검증하지 않았다고 판결했다. 판사들은 해당 문서가 “완전히 조작된 증인들로부터의 허위 증언을 포함하고 있다”고 말했다.
법원은 수요일 스티븐을 법원 모독죄로 기소하고 5,000달러의 벌금을 부과했다. 그의 행위는 또한 변호사 징계 위원회에 회부될 예정이다. 판사들은 스티븐이 “후회의 부족과 의뢰인에 대한 관심 부족을 보였다”고 말했다.
스티븐은 지난해 항소를 제기한 후 재판 기록을 압축하기 위해 ChatGPT를 사용했다고 말했다. 그는 AI “환각”이 얼마나 멀리 갈 수 있는지, 그리고 소프트웨어가 결코 발생하지 않은 사실들을 얼마나 자신감 있게 생성할 수 있는지 깨닫지 못했다.
뉴멕시코 판사들, 오스카의 살인 항소심에서 ChatGPT가 증언을 발명하자 스티븐을 처벌
스티븐은 산타페에 기반을 둔 사립 변호사로, 오스카 레네 산도발(Oscar Renee Sandoval)을 대리했다. 오스카는 자신의 자녀들의 어머니를 살해했다는 혐의에 대해 무죄를 주장했으며, 이후 유죄 판결을 받고 작년 무기징역을 선고받았다. 그의 항소심은 아직 진행 중이다.
스티븐 알legedly 기자들에게 이 오류는 정직한 실수였다고 말했다. “나는 후회하지만, 징계 위원회가 이것이 정직한 실수였음을 고려해 주기를 희망한다”고 말했다. “이는 이 강력하지만 때로는 불안정한 기술에 의존하는 모든 전문가들에게 교훈이 되었다.”
수많은 변호사들이 통제되지 않는 AI 보조로 인해 이미 처벌을 받았다. 가짜 사례, 참조 및 오용된 법적 조항을 포함한 소장에 대해 주 및 연방 법원에서 변호사들을 상대로 소송이 제기되었다.
스티븐의 신청은 이 카테고리에서 두드러지는데, 이는 항소 과정에서 증인들의 허위 진술을 포함하고 있기 때문이다.
오스카의 사건은 9월 2일 뉴멕시코 공공 변호사 킴 차베즈 쿡(Kim Chavez Cook)에게 이관되었다. 킴은 사건이 계속 진행 중인 동안 현재 항소심을 처리하고 있다.
티루의 가족, 오픈AI를 고소, 플로리다 당국, FSU 총기 난사 사건과 관련된 16,000건의 ChatGPT 대화 검토
다른 법정 투쟁은 플로리다 주립대학(FSU) 총기 난사 사건 이후 ChatGPT와 관련이 있다. 사망한 티루 차바(Tiru Chabba)의 가족을 대리하는 변호사는 연방법원에 오픈AI, ChatGPT 및 피닉스 이크너(Phoenix Ikner)를 고소했다.
이 사건은 일요일에 미국 플로리다 북부 연방지법에 제기되었다. 오픈AI가 이 상황에서 조치를 취해야 했다고 주장된다.
플로리다의 법 집행 당국은 피닉스의 ChatGPT 대화 기록을 공개했다. 여기에는 총기 작동 방법, 미디어 보도, FSU에서 가장 바쁜 시간, 컬럼바인 총기 난사 사건, 그리고 자신을 유명하게 만드는 방법에 대한 질의가 포함되어 있다.
티루의 가족 변호사 바카리 셀러스(Bakari Sellers)는 이 대화들이 약 18개월 전으로 거슬러 올라가며 총 16,000건 정도의 “불안정한 대화”라고 말했다.
“그는 바로 ‘어떻게 하면 유명해질 수 있는가?’라고 물었다. 컬럼바인 총기 난사 사건에 대해 물었고, 캠퍼스에 언제 가야 하는지, 대부분의 사람들이 언제 있을지에 대해 물었다”고 바카리는 말했다.
“그는 실제로 오픈AI와 ChatGPT를 공범으로 활용했으며, 대량 살행을 수행하기 위한 자원으로 활용했다”고 바카리는 덧붙였다. “그것이 일어나는 것을 막을 아무것도 없었고, 그래서 목숨이 잃어졌다. 그것이 내재된 위험이며, 그런 일이 일어나는 것을 막을 무언가가 있어야 한다.”
오픈AI는 총기 난사 사건에 대한 책임을 거부했다. 대변인 드류 푸사테리(Drew Pusateri)는 회사가 사건 발생 후 피닉스와 관련이 있다고 믿이는 계정을 발견하고 정보를 자발적으로 경찰에 공유했다고 말했다. 드류는 오픈AI가 당국과 여전히 협력 중이라고 말했다.
“작년 플로리다 주립대학에서 발생한 총기 난사 사건은 비극이었지만, ChatGPT는 이 끔찍한 범죄에 책임이 없습니다.”라고 드류는 말했습니다.
그는 ChatGPT가 공개 인터넷 소스를 통해 이미 널리 이용 가능한 사실적 자료에 기반해 답변했으며, 불법적이거나 유해한 행위를 조장하지 않았다고 말했습니다. 드류는 또한 수억 명의 사람들이 매일 ChatGPT를 합당한 목적으로 사용하고 있다고 언급했습니다.
드류에 따르면, OpenAI는 사용자 의도를 인식하고 오용을 방지하며 안전 문제에 대한 우려가 있을 경우 대응하는 데 도움이 되는 도구들을 지속적으로 개선하고 있습니다.
현재의 소송은 플로리다에서 유사한 사건 이후 제기되었습니다. 주 법무장관 제임스 우트마이어는 최근 주 검찰청이 OpenAI와 ChatGPT에 대한 형사 조사를 개시했다고 밝혔습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
Jai Hamid
Jai Hamid 은 지난 6 년간 암호화폐, 주식 시장, 기술, 글로벌 경제 및 시장에 영향을 미치는 지정학적 사건들을 취재해 왔습니다. 그녀는 AMB Crypto, Coin Edition, CryptoTale 등 블록체인 전문 매체에서 시장 분석, 주요 기업, 규제 및 거시경제 동향에 관해 활동했습니다. 런던 저널리즘 스쿨을 졸업했으며 아프리카 최고 TV 네트워크 중 하나에서 세 차례 암호화폐 시장 인사이트를 공유했습니다.
