- 잉글랜드 및 웨일즈 고등법원은 변호사들이 정확성을 확인하지 않고 AI가 생성한 가짜 사례를 인용할 경우 제재를 받을 수 있다고 경고했습니다.
- Victoria Sharp 판사는 두 사건을 연결하는 판결문에서 ChatGPT와 같은 생성형 AI 도구는 신뢰할 수 있는 법률 연구를 수행할 수 없다고 명시했습니다.
- Sharp 판사와 Jeremy Johnson 판사는 두 사건의 변호사들을 전문 규제 기관에 회부했지만, 그 이상의 엄격한 조치는 취하지 않았습니다.
잉글랜드 및 웨일즈 고등법원은 법률 연구에 ChatGPT와 같은 AI 도구에 의존하는 위험에 대해 변호사들에게 경고했습니다. 빅토리아 샤프 판사는 이러한 생성형 AI 도구가 신뢰할 수 있는 법률 연구를 수행할 수 없다고 판결했습니다.
샤프 판사 전했습니다 는 AI 도구가 일관되고 타당해 보이는 응답을 제공할 수 있지만 완전히 잘못될 수도 있다고 밝혔습니다. 그녀는 변호사들이 연구에 AI를 사용할 수 있지만, 전문적인 작업에 사용하기 전에 권위 있는 출처를 참조하여 이러한 연구의 정확성을 확인해야 할 전문적 의무가 있다고 명확히 했습니다.
판사의 발언은 변호사들이 AI가 생성한 허위 사실을인용한 사례들이 증가하는 가운데 나왔습니다. 샤프 여사의 결정은 변호사들이 법원 절차에서 AI가 생성한 가짜 사례를 인용한 두 가지 최근 사례를 인용했습니다. 그녀는 그녀의 판결이 영국 내 바 협회 및 법률 협회와 같은 전문 기관들과 공유될 것이라고 말했습니다.
변호사 후사인이 존재하지 않는 사례를 $120M 사건에서 인용
변호사들, 주의: 검증 없이 AI를 사용하여 제출서 작성의 위험
알하룬 사건에서 법원은 존재하지 않거나 부정확한 인용문이 포함된 놀라운 45건의 인용문을 발견했습니다. 충격적으로, 이러한 거짓 인용문은 원래... pic.twitter.com/CbgNy1z7X1
— Lawpoint Uganda (@Lawpointuganda) 6월 7, 2025
변호사 아비드 후사인은 카타르 국립은행과의 자금 조달 계약 위반 alleged 사건인 1억 2,000만 달러(8,900만 파운드) 소송에서 존재하지 않는 사례들을 인용했습니다. 후사인은 45건의 인용문을 제출했으며, 그중 18건은 존재하지 않았고, 다른 많은 인용문들은 그들에게 귀속된 인용문을 포함하지 않았습니다.
클라이언트인 하마드 알하룬은 공개적으로 이용 가능한 AI 도구에서 잘못된 데이터를 사용하여 법원을 의도치 않게 기만한 것에 대해 사과했으며, 변호사 후사인이 아닌 자신이 책임이 있다고 말했습니다. 그러나 샤프는 변호사가 법률 연구의 정확성을 위해 클라이언트에 의존한 것이
킹스 벤치 부의장인 샤프 판사는 심각한 영향 이 AI가 오용될 경우 사법 행정 및 사법 시스템에 대한 대중의 신뢰에 영향을 미칠 수 있다고 말했습니다. 그녀는 AI를 오용한 변호사들이 공개적인 훈계와 경찰 고발을 받을 수 있다고 덧붙였으며, 바 협회와 법률 협회에 이 문제를
판사는 또한 변리 사무소 대표들과 변호사 관리 파트너들에게 모든 변호사들이 AI를 사용할 때 전문적 및 윤리적 의무를 이해하도록 보장해 달라고 요청했습니다.
“응답은 단순히 거짓인 확신에 찬 주장을 할 수 있습니다. 존재하지 않는 출처를 인용할 수 있습니다. 실제 출처에서 인용된 것처럼 보이지만 해당 출처에 나타나지 않는 구절을 인용할 수 있습니다.”
–빅토리아 샤프 판사, 킹스 벤치 부의장
잉글랜드 및 웨일즈 법률 협회의 이안 제프리 회장은 이 판결이 법률 업무에서 AI 사용의 위험을 드러냈다고 말했습니다. 그는 AI 도구가 법률 서비스 제공을 지원하기 위해 점점 더 많이 사용되고 있다고 덧붙였습니다. 그러나 생성형 AI가 생성한 잘못된 출력의 실제 위험은 변호사들이 자신의 작업을 확인, 검토하고 정확성을 보장해야 함을 의미합니다.
변호사 포레이, 세입자의 주택 청구에서 5개의 가짜 사례 인용
변호사 사라 포레이는 런던 해링구 자치구에 대한 세입자의 주택 청구에서 5개의 가짜 사례를 인용했습니다. 포레이는 AI를 사용하지 않았다고 부인했지만, 샤프는 그녀가 사건에 대한 일관된 설명을 법원에 제공하지 않았다고 말했습니다.
판사는 또한 진정으로 제시된 허위 자료를 제공하는 것이 법원 모독 또는
샤프는 포레이가 우려스러운 통찰력 부족을 보였다고 말하며, 사무소 내 교재나 전자 구독 서비스에 대한 접근 부족이 만약 그 위치였다면 미미한 감경 요인 이상을 제공하지 않는다고 법원이 받아들이지 않았다고 덧붙였습니다.
그녀는 포레이가 국가 기록관 판례 웹사이트를 검색하거나 그녀의 인의 법학 도서관을 방문하여 인용한 사례들을 확인할 수 있었을 것이라고 주장했습니다. 샤프는 포레이가 증인 진술에서 그것을 부인했음에도 불구하고 가짜 인용문 을 의도적으로 포함했거나 AI를 사용했다고 관찰했습니다.
지난달, 리치 법관은 는 , 5개의 가짜 사례를 인용하는 포레이의 행동(당시 3 볼트 코트의 수습 변호사)과 런던의 해링구 법률 센터의 변호사들의 행동이 부적절하고 비이성적이며 과실이라고 밝혔습니다. 그는 또한 그들 모두에게 낭비된 비용의 지불을 명령했습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
Collins J. Okoth
콜린스 오코트는 암호화폐와 기술을 8 년간 보도해 온 저널리스트이자 시장 분석가입니다. 그는 공인 재무 분석가 (CFA) 자격을 보유하고 있으며 정량 수학 학위를 소지하고 있습니다. 콜린스는 이전에 Geek Computer 와 CoinRabbit 에서 작가 및 편집자로 일했습니다.
