NY 변호사, ChatGPT 사건 위조 혐의로 처벌

인공지능과 법적 서한에 관련된 비정상적인 상황에 이어, 뉴욕의 두 변호사가 의뢰인의 법정 절차에서 존재하지 않는 사건을 허위로 인용한 혐의로 처벌을 받았습니다.

법률 회사 Levidow, Levidow & Oberman의 일원인 Steven Schwartz와 Peter LoDuca는 법적 서한에 AI 채팅봇 ChatGPT가 생성한 것으로 추정되는 6개의 허위 사건 인용을 포함했습니다.

AI 보조가 어긋날 때

흥미로운 반전으로, Schwartz는 콜롬비아 항공사 Avianca를 상대로 한 상해 소송 연구를 돕기 위해 ChatGPT AI를 사용했습니다.

불행히도 Schwartz는 실수로 오류가 있는 인용문을 사건 서한에 포함했다고 시인했으며, LoDuca는 문서에 유일한 서명자였습니다.

문제는 Avianca의 법률 대표들이 3월 초부터 서한에 인용된 여러 사건을 찾을 수 없다고 표현했을 때 발생했습니다. 이는 철저한 조사를 이끌었고, 결국 인용된 사건 중 일부가 허위임이 드러났습니다.

법적 결과 및 윤리적 함의

이 비전문적 행위에 대한 대응으로, 맨해튼의 미국 연방 판사 P. Kevin Castel은 Schwartz, LoDuca 및 그들의 법률 회사에 5,000달러의 벌금을 부과하도록 명령했습니다.

판사는 변호사들의 “의도적인 회피와 법원에 대한 거짓 및 오해의 소지가 있는 진술”을 비판했습니다.

이 징계 조치를 받은 변호사들은 선의의 행동을 취했으며 AI가 사건을 위조할 수 있는 능력에 놀랐다고 주장했지만, Castel 판사는 그들에게 불리하게 판결했습니다.

법원은 AI를 보조적으로 사용하는 것이 본질적으로 잘못된 것은 아니지만, 윤리적 책임은 변호사들이 제출물의 정확성을 검증하는 데 있다고 유지했습니다.

판사는 법원과 Avianca로부터 진위 여부를 도전받은 후에도 위조된 인용문을 부정하지 않은 변호사들의 거부를 추가로 지적했습니다.

또한 그는 변호사들에게 이 존재하지 않는 사건들에 잘못 기입된 모든 ‘실제’ 판사들에게 부과된 제재에 대해 알리라고 지시했습니다.

ChatGPT 사용으로 인한 논란에도 불구하고, Avianca의 법률 팀은 법원의 최종 판결을 칭찬했습니다. 콜롬비아 항공사를 대표하는 Bart Banino는 늦게 제기된 상해 소송의 기소에 만족감을 표현했습니다.

이 파도 한가운데 있는 법률 회사 Levidow, Levidow & Oberman은 법원의 명령에 대해 ‘존중하며’ 악의적 행위에 대한 판결에 동의하지 않는다고 응답했습니다.

Schwartz는 법원의 결정에 대해 논평을 피한 반면, LoDuca는 논평 요청에 응답하지 않았습니다. 그들의 변호사들은 현재 법원의 판결을 검토 중입니다.

요약하자면, 이 사건은 특히 AI와 같은 신기술을 통합할 때 법률 직업에서 윤리적 행위의 중요한 역할에 대한 강력한 교훈을 제공합니다.

또한 AI 생성 정보를 다룰 때 철저한 사실 확인과 일정 수준의 회의주의가 필요함을 강조합니다.

AI가 계속 발전함에 따라 모든 분야의 전문가들은 유사한 함정을 피하기 위해 이러한 기술을 책임감 있고 윤리적으로 다루어야 합니다.