변호사가 살인 사건 항소에 ChatGPT를 사용했습니다. ChatGPT는 존재하지도 않는 증인을 만들어냈습니다

뉴멕시코의 한 변호사가 살인 유죄 판결에 대한 변호 과정에서 ChatGPT를 사용했습니다. 그는 이를 이용해 조작된 경찰 진술과 목격자 진술이 담긴 변론서를 뉴멕시코 대법원에 제출했습니다.

뉴멕시코 대법원은 변호사 스티븐 애런스가 인공지능이 생성한 자료의 진위 여부를 검증하지 못했다고 판결했습니다. 재판관들은 해당 문서가 "완전히 조작된 증인들의 허위 증언을 담고 있다"고 밝혔습니다

수요일 법원은 스티븐에게 법정 모독죄를 적용하고 5,000달러의 벌금을 부과했습니다. 그의 행위는 변호사 징계위원회에도 회부될 예정입니다. 판사들은 스티븐이 "뉘우침도 없고 의뢰인에 대한 배려도 없었다"고 지적했습니다

스티븐은 항소 후 재판 기록을 요약하기 위해 작년에 ChatGPT를 사용했다고 말했습니다. 그는 인공지능의 "환각"이 얼마나 멀리까지 나아갈 수 있는지, 소프트웨어가 일어나지도 않은 사실을 얼마나 확신dent. 만들어낼 수 있는지 몰랐다고 했습니다

뉴멕시코 주 판사들은 ChatGPT가 오스카의 살인 항소심에서 허위 증언을 조작한 후 스티븐에게 처벌을 내렸다

산타페에 기반을 둔 개인 변호사 스티븐은 오스카 르네 산도발을 변호했습니다. 오스카는 자녀들의 어머니를 살해한 혐의에 대해 무죄를 주장했습니다. 그는 이후 유죄 판결을 받고 지난해 종신형을 선고받았습니다. 그의 항소는 현재 계류 중입니다.

스티븐은 것으로 알려졌다 . 그는 "후회스럽지만 징계위원회가 이번 일이 고의가 아니었다는 점을 고려해 주기를 바랍니다."라며 "이번 일은 강력하지만 때로는 불안정한 이 기술에 의존하는 모든 전문가들에게 교훈이 될 것입니다."라고 말했다.

이미 여러 변호사들이 통제되지 않은 AI 지원. 허위 사례, 참고 자료, 잘못 인용한 법률 조항 등이 포함된 변론서 때문에 주 법원과 연방 법원에서 변호사들을 상대로 소송이 제기되었습니다.

스티븐의 신청서는 항소 과정에서 증인들의 허위 증언을 포함하고 있다는 점에서 이 범주에서 두드러집니다.

오스카의 사건은 9월 2일 뉴멕시코주 공선 변호인인 킴 차베스 쿡에게 이관되었습니다. 킴 변호사는 현재 항소심을 담당하고 있으며, 사건은 아직 종결되지 않았습니다.

티루의 가족이 오픈AI를 상대로 소송을 제기한 가운데, 플로리다 주 당국은 FSU 총격 사건과 관련된 16,000건의 ChatGPT 채팅 기록을 조사하고 있습니다

또 다른 소송은 플로리다 주립대학교 총격 사건 이후 ChatGPT와 관련된 것입니다. 사망자 가족을 대리하는 변호사 티루 차바는 연방 법원에 OpenAI, ChatGPT, 그리고 피닉스 이크너를 상대로 소송을 제기했습니다.

해당 소송은 일요일 미국 플로리다 북부 지방법원에 제기되었습니다. 소송에서는 오픈AI가 이러한 상황에서 적절한 조치를 취했어야 했다고 주장합니다.

플로리다 주 경찰은 피닉스에서 이루어진 ChatGPT 채팅 기록을 공개했습니다. 이 기록에는 총기 사용법, 언론 보도, 플로리다 주립대(FSU)의 가장 붐비는 시간대, 콜럼바인 총격 사건, 그리고 악명 높은 사람이 되는 방법 등에 대한 질문들이 담겨 있습니다.

티루 가족의 변호사인 바카리 셀러스는 해당 대화가 약 18개월 전부터 시작되었으며 총 16,000건에 달하는 "불안한 채팅"이라고 밝혔습니다

바카리는 "이 사람은 '어떻게 하면 악명 높은 사람이 될 수 있을까요?'라고 물었던 바로 그 사람입니다. 콜럼바인 총격 사건에 대해서도 물었고, 캠퍼스에 몇 시에 가야 하는지, 사람들이 대부분 몇 시에 거기에 있을지 묻기도 했습니다."라고 말했다.

바카리는 "그는 말 그대로 오픈 AI와 챗봇 GPT를 공범으로 활용했고, 대량 학살을 자행하는 데 이용했다"며 "이러한 일이 발생하는 것을 막을 장치가 전혀 없었고, 그 결과 수많은 생명이 희생되었다. 이것이 바로 내재된 위험이며, 이러한 일이 다시는 일어나지 않도록 막을 장치가 반드시 마련되어 있어야 한다"고 덧붙였다

오픈아이얼은 이번 총격 사건에 대한 책임을 부인했습니다. 대변인 드류 푸사테리는 사건 발생 후 피닉스와 연관된 것으로 추정되는 계정을 발견했으며, 해당 정보를 경찰에 선제적으로 제공했다고 밝혔습니다. 푸사테리는 오픈아이얼이 당국과 계속 협력하고 있다고 덧붙였습니다.

드류는 "작년에 ​​플로리다 주립대학교에서 발생한 총기 난사 사건은 비극이었지만, ChatGPT는 이 끔찍한 범죄에 책임이 없다"고 말했다.

그는 ChatGPT가 이미 인터넷에서 널리 알려진 사실에 근거한 답변을 제공하며 불법적이거나 유해한 행위를 조장하지 않는다고 말했습니다. 드류는 또한 수억 명의 사람들이 매일 정당한 이유로 ChatGPT를 이용하고 있다고 언급했습니다.

드류에 따르면, OpenAI는 사용자의 의도를 파악하고, 오용을 방지하며, 안전 문제에 대한 우려가 있을 경우 조치를 취하는 데 도움이 되는 도구를 지속적으로 개선하고 있습니다.

이번 소송은 플로리다에서 발생한 유사 사건 이후에 제기되었습니다. 제임스 우트마이어 플로리다 주 법무장관은 최근 주 검찰청이 오픈AI와 ChatGPT를 상대로 형사 수사를 시작했다고 밝혔습니다.