미국 연방 판사들이 '오류 투성이' 법원 명령에 인공지능을 사용했음을 인정했습니다

미국 연방 판사 두 명이 판사실 직원들이 판결문 초안 작성을 위해 인공지능을 활용했으며, 그 실험이 심각한 실패로 끝났음을 인정했습니다.

목요일, 상원 법사위원회 위원장인 척 그래슬리 상원의원이 공개한 두 통의 솔직한 서한에서 미시시피주 헨리 T. 윙게이트 판사와 뉴저지주 줄리앙 자비에르 닐스 판사는 인공지능(AI) 도구를 사용하여 법원 명령을 작성했는데, 이 명령들이 나중에 사실 오류 되었습니다trac.

설명을 요구했던 그래슬리 의원은 "각 연방 판사와 사법부라는 기관은 생성형 AI의 사용이 소송 당사자의 권리를 침해하거나 법에 따른 공정한 대우를 방해하지 않도록 보장할 의무가 있다"고 말했다 

직원들의 실수로 법정에서 인공지능의 한계가 드러났다

서한에서증권 소송 관련 판결 초안이 "인적 오류"로 발표되었다고 밝혔습니다. 이는 로스쿨 인턴이 허가나 고지 없이 오픈AI의 ChatGPT를 연구 목적으로 사용한 데 따른 것이었습니다. 오류가 발견되자마자 해당 판결은 즉시 철회되었습니다.

재발 방지를 위해 닐스 의원은 자신의 사무실에서 AI 관련 정책을 문서화하고 검토 절차를 강화했다고 밝혔습니다.

미시시피 남부 지방법원의 윙게이트 판사는 법률 서기가 AI 도구인 퍼플렉시티를 "사건 기록에 있는 공개 정보를 종합하는 기본적인 초안 작성 보조 도구"로 사용했다고 밝혔습니다 

민권 소송에서 발부된 해당 명령 초안은 그가 오류를dent후 나중에 수정되었습니다. 윙게이트 판사는 이 사건을 "인간적인 감독의 실수"라고 지적하며, 이후 자신의 판사실 내 검토 절차를 강화했다고 덧붙였습니다.

법률 업무에서의 인공지능 사용에 대한 비판

이번 사건은 인공지능이 생성한 법률 자료와 관련된 논란 목록에 추가되었습니다. 최근 몇 년 동안 미국 여러 관할 지역의 변호사들은 챗봇이 작성한 서류에 허위 판례 인용과 잘못 적용된dent가 포함된 것을 제출하여 제재를 받았습니다. 

이달 초 뉴욕주 법원 시스템은 입력하는 것을 제한하는 새로운 정책을 발표했습니다dent, 특권 또는 비공개 사건 정보를 공개된 인공지능 기반 생성 도구에

법조계는 효율성 향상을 위한 인공지능의 잠재력을 재빨리 탐구해 왔지만, 최근 발생한 사건dent특히 인공지능이 허위 정보를 생성하거나 그럴듯하지만 거짓된 정보를. 판결의 공정성, 정확성, 그리고 입증 책임이 무엇보다 중요한 법원에서 이러한 오류는 사법 시스템에 대한 국민의 신뢰를 훼손할 위험이 있습니다.

그래슬리 의원은 윙게이트와 닐스가 실수를 인정한 것을 칭찬하면서도 사법부가 더욱tronAI 가이드라인을 마련할 것을 촉구했다. 

미국 연방법원 행정처는 인공지능(AI) 사용에 대한 포괄적인 지침을 발표하지 않았지만, 여러 항소법원에서 제한적이고 감독된 방식으로 AI를 도입하기 위한 프레임워크를 검토 중인 것으로 알려졌습니다. 한편, 법학자들은 판사가 판결문이나 명령서에 AI를 사용한 경우 외부 연구 자료를 인용하는 것과 유사하게 이를 공개적으로 명시하도록 하는 공시 규칙을 제안하고 있는 것으로 전해졌습니다.

이번dent연방 기관과 전문 단체들이 인공지능의 책임 문제에 대해 고심하는 가운데 발생했습니다.