Roc Nation을 고소하는 변호사가 AI 환각 인용으로 세 번째 제재를 받음

과거 인공 지능 오용으로 두 번 제재를 받은 한 변호사가 엔터테인먼트 회사인 Roc Nation을 상대로 한 법원 제출물에 AI가 조작한 인용문을 포함시켜 연방 판사로부터 다시 비난을 받았습니다.

AI 를 사용하여 작성한 법원 서류를 확인하지 않고 사용하는 변호사들이 심각한 처벌을 받는 사례가 늘고 있습니다. 2026 년 중반까지 법원은 변호사들이 AI 도구를 통해 생성한 가짜 법적 인용서를 제출한 1,667 건의 사건을 기록했습니다. 

AI 환각으로 변호사들이 벌금을 부과받고 있습니다

연구자 데미앙 샤를로틴이 추적한 글로벌 데이터베이스에 따르면, 변호사들은 최대 1,667 건의 사법 절차에서 인공 지능을 오용했습니다. 이러한 오용은 공식 법원 문서에 가짜 AI 생성 인용서를 추가하는 데 집중되어 있으며, 이러한 사건의 빈도는 전년 대비 230 건에서 약 7 배 증가했습니다. 

최근 미국 소관 법원 판사 제니퍼 윌리스는 변호사 타이론 블랙번이 인용한 사건에 실제 존재하지 않는 인용구가 포함된 사실이 밝혀진 후, AI 관련 '지속적인 행동 패턴'을 보였다고 명시하는 명령을 내렸습니다.

윌리스 판사는 블랙번의 행위가 '도덕적 및 전문적 의무에 대한 끔찍한 위반'이라고 적었습니다. 그는 이미 12월에 AI 환각으로 인해 존재하지 않는 사건을 인용한 혐의로 제재를 받은 바 있습니다. AI 환각 뉴저지 연방 법원에서입니다. 펜실베이니아 연방 법원 판사는 작년 허위로 조작된 인용구와 관련해 그에게 5,000 달러의 벌금을 부과했습니다.

로크 네이션 소송에서 변호사가 AI 환각 인용구를 인용

가장 최근 사건에서 블랙번은 래퍼 팻 조 (Fat Joe) 의 공연자이자 협력자인 테런스 디크슨을 대신해 소송을 제기했습니다. 디크슨은 음악가와 그의 매니지먼트 회사인 로크 네이션이 고용 관련 부정을 저질렀다고 주장합니다. 디크슨은 임금 손실 등 다른 피해도 입었다고 밝혔습니다. 로크 네이션과 팻 조는 이러한 주장을 부인했습니다..

로크 네이션은 지난달 법원에 블랙번이 근거 없는 주장을 추구하고 있다며 제재 조치를 요청했습니다. 이어 블랙번의 반대 의견서가 기한을 넘겨 제출되었고, AI 환각으로 보이는 인용구가 포함되어 있다고 주장하며 해당 의견서를 기각할 것을 법원에 촉구했습니다. AI 환각 인용구.

블랙번은 인용한 각 판결이 실재한다고 주장하며 더욱 고집을 부렸으나, 일부 자료는 요약했다고 말했습니다. 윌리스 판사는 블랙번의 설명이 자신의 행위를 '당당하게 축소한다'고 지적했습니다.

블랙번은 법원의 명령에 응답하겠다고 밝혔지만 자신의 무죄 주장은 유지하고 있습니다.  

다른 사건에서 미스issippi 북부지방법원의 샤프리온 에이콕 연방 판사는 계약 소송 양측 변호사들이 모두 존재하지 않는 인용문을 제출한 사실을 발견하여 모든 4명의 변호사를 기각했습니다. 이 분쟁 자체는 사소한 것이었습니다: 토미 위더스 변호사는 아버딘 시를 상대로 체불된 법률 비용에 대한 단일 계약 위반 소장을 제기했습니다. 

위더스는 여기서 형식적으로만 자신을 대표했으며 제재를 받지 않았습니다. 그러나 그의 변호사 2명과 시를 대표하는 변호사 2명은 그렇지 못했습니다. 캐서린 윌리엄스는 AI 연구 도구를 사용했다고 인정했고, 켈리 윌슨은 생성형 AI로 답변을 작성했다고 인정했으나 제출 전 결과를 검증하지는 않았습니다. 

윌슨의 주장은 자신이 AI가 가상의 사건을 만들어낼 수 있다는 것을 몰랐고, '할루시네이션'된 사건이 무엇인지도 몰랐다는 것이었습니다. 

에이콕 판사는 이 변론을 '부족하고 믿기 어렵다'고 평가했습니다. 그녀는 재판만 취소한 것이 아니라 변호사들에게 1,000달러에서 3,500달러 사이의 벌금을 부과했습니다. 또한 윌리엄스와 윌슨은 해당 지법원에서 2년간 소송 활동을 금지당했습니다. 

AI 할루시네이션은 다른 곳에서도 발생했습니까? 

월스트리트에서 가장 오래된 기업 중 하나인 설리반 & 크롬웰은 2026년 4월 뉴욕 연방 법원에 프린스 그룹 사건에 허위 오류가 포함된 서류가 제출되었다고 보고했습니다. 

앤드류 디트데리히 (Andrew Dietderich) 는 회사의 리structuring 그룹 공동 수석으로, 미국 파산법 조항을 잘못 인용하고 사례를 부정확하게 언급한 일련의 실수에 대해 마틴 글렌 (Martin Glenn) 판사에게 서한을 통해 사과했습니다. 

회사는 AI 정책이 준수되지 않았으며, 제출 전 두 번째 검토에서 잘못된 인용이 놓쳤다고 밝혔습니다. 해당 사건에 관여한 경쟁사인 Boies Schiller Flexner는 이를 포착했습니다..

Sullivan & Cromwell은 중국계 사업가 첸즈 (Chen Zhi) 가 통제하던 프린스 그룹 (Prince Group) 을 추적하려는 청산인들을 대표하고 있었습니다. 

미국 검찰은 작년에 캄보디아 내 강제 노동 사기 단지로 묘사된 사건과 관련해 첸즈를 통신 사기와 자금 세탁 혐의로 기소했습니다. 별도로 검찰은 해당 그룹 활동에서 비롯된 것으로 추정되는 약 90 억 달러 상당의 비트코인을 압수하기 위한 조치를 취했습니다. 첸즈는 캄보디아에서 체포되어 중국으로 송환되었습니다.

왜 AI 법률 도구는 계속해서 실수를 범할까요? 

Lexis+ AI 와 토머스 로이터 (NYSE: TRI) 의 주요 법률 연구 플랫폼 두 곳에서 실시한 테스트 결과, 17% 이상의 비율로 잘못된 정보가 발견되었습니다. 일부 테스트에서는 오류율이 34% 에 달하기도 했습니다. 

2026 년 2 월, 주정부 법원 센터 (National Center for State Courts) 는 AI 환각 현상이 사법 시스템에 대한 점점 더 커지는 위협이라고 경고했습니다. 

변호사들이 AI 사용을 금지당하지는 않지만, 그들이 제출하는 모든 내용이 정확하도록 하는 윤리적 의무가 있습니다. 

미국변호사협회는 2025 년 6 월 AI 출력물을 검증하지 않는 것이 변호사의 유능한 법률대리 의무를 위반할 수 있다고 경고한 바 있으나, 이러한 제재는 많은 변호사들이 해당 경고를 심각하게 받아들이지 않았음을 보여줍니다.