앤트로픽, 클로드 AI가 소송에서 “embarrasing and unintentional” 오류 발생

앤트로픽은 목요일 법원 문서의 faulty reference가 자체 AI 어시스턴트 클로드의 결과였으며, 이 실수를 “embarrassing and unintentional mistake”라고 호출했습니다.

유니버설, 콘코드, ABKCO는 지난해 샌프란시스코 기반 기업인 앤트로픽이 클로드를 훈련하기 위해 가사를 그대로 복사했다고 주장하며 소송을 제기했습니다. 이 사건은 기술 기업이 AI를 훈련하기 위해 허가 없이 저작권이 있는 작업을 사용할 수 있는지 여부를 둘러싼 여러 주요 사건 중 하나입니다.

로이터 보고에 따르면, 화요일 심문에서 유니버설 뮤직 그룹, ABKCO, 콘코드를 대표하는 변호사 맷 오펜하임은 챗봇의 인용문이 앤트로픽의 주장을 지지하기 위한 “완전한 날조”라고 법원에 말했습니다.

미국 마지스트레이트 판사 수잔 반 쿨렌은 최신 혐의를 “매우 심각하고 중대한 문제”라고 부르며 “누락된 인용과 AI가 생성한 환각 사이의 세계적 차이”를 강조했습니다. 판사는 당사자에게 서면 제출에서 해당 사항을 완전히 설명하도록 명령했습니다.

Anthropic 변호사들, Claude AI가 포맷팅 과정에서 실수했다고 주장

목요일 서면 답변에서 Anthropic의 변호수 이바나 두카노비치는 해당 참고문헌은 실제 존재하지만 Claude에게 법적 스타일로 포맷팅을 요청할 때 잘못 처리되었다고 밝혔다. 그녀는 봇이 생성한 잘못된 권호 및 페이지 번호가 수동 검토를 통해 수정되었지만, 문장 오류는 주의 깊게 확인되지 않은 채 통과되었다고 설명했다.

“제공된 출처에 대한 정확한 출판 제목, 출판 연도 및 링크를 제공했지만, 반환된 인용문에는 부정확한 제목과 잘못된 저자가 포함되었습니다.”라고 두카노비치는 작성하며, 이 결함이 ‘권위의 위조’는 아니었다고 덧붙였다.

앤트로픽은 혼란에 대해 사과하며 실수가 고의적이거나 법원을 기만하려는 시도가 아니었다고 밝혔습니다.

AI 실수가 법정에서 계속 문제를 일으키고 있음

최근 몇몇 변호사들은 AI가 생성한 내용이 거짓으로 판명되자 이를 의존했다는 이유로 비판이나 제재를 받았다. 두카노비치는 Anthropic을 대표하는 로펌인 Latham & Watkins가 “이러한 일이 다시는 발생하지 않도록 보장하기 위해 여러 단계의 추가 검토를 도입했다”고 자신의 제출文件中 밝혔다.

이 사건은 생성형 AI와 관련된 법정 오류 목록이 점점 늘어나는 추세에 합류한 것이다.

지난주 캘리포니아의 한 판사는 보충 서한에 “존재하지 않는” “허위” 참고문헌이 가득 차 있다는 사실을 밝히지 않은 두 로펌을 질책했다. 12월에는 한 정보 오보 연구관이 자신이 작성한 제출 문서에서 ChatGPT가 인용문을 발명했다고 시인했다.