앤트로픽은 목요일 법원 서류에 잘못된 내용이 포함된 것은 자사 AI 비서인 클로드 때문이라고 인정하며, 이번 실수를 "당황스럽고 의도치 않은 실수"라고 표현했습니다
유니버설, 콩코드, 그리고 ABKCO는 작년에 샌프란시스코에 본사를 둔 앤스로픽이 자사의 가사를 통째로 복제하여 인공지능 시스템 '클로드'를 훈련시켰다고 주장하며 소송을 제기했습니다. 이 사건은 기술 기업들이 저작권이 있는 저작물을 허가 없이 인공지능 시스템 훈련에 사용할 수 있는지 여부를 둘러싼 여러 주요 소송 중 하나입니다.
로이터 통신은 화요일 열린 공판에서 유니버설 뮤직 그룹, ABKCO, 그리고 콩코드를 대리하는 변호사 맷 오펜하임이 챗봇의 인용문은 앤트로픽의 주장을 뒷받침하기 위한 "완전한 날조"라고 법원에 밝혔다고 보도했습니다 .
미국 연방 치안판사 수잔 반 쿨렌은 이번 의혹을 "매우 심각하고 중대한 문제"라고 규정하며 "단순히 교통위반 딱지를 놓친 것과 인공지능이 만들어낸 환각 사이에는 엄청난 차이가 있다"고 강조했습니다. 판사는 양측에 서면으로 충분한 설명을 제출할 것을 명령했습니다.
인류산업계 변호사들은 클로드 AI가 서식 지정 과정에서 실수를 저질렀다고 주장합니다
목요일에 발표된 서면 답변에서 앤트로픽의 변호사 이바나 두카노비치는 해당 참조는 실제였지만 클로드에게 법률 문서 형식에 맞게 작성해달라고 요청하는 과정에서 오류가 발생했다고 밝혔습니다. 그녀는 봇이 생성한 잘못된 권수와 페이지 번호는 수동 검토를 통해 수정되었지만, 문구 오류는 발견되지 않고 그대로 남았다고 설명했습니다.
"올바른 출판물 제목, 출판 연도, 제공된 출처 링크를 제공했음에도 불구하고 반환된 인용 정보에는 부정확한 제목과 잘못된 저자가 포함되어 있었습니다."라고 두카노비치는 썼으며, 이러한 오류는 "권한을 조작한 것이 아니다"라고 덧붙였습니다
혼란을 야기한 것에 대해 사과하며 , 해당 실수는 고의적인 것도 아니고 법원을 오도하려는 시도도 아니었다고 밝혔습니다.
AI 오류가 법정에서 계속해서 문제를 일으키고 있습니다
최근 몇몇 변호사들이 인공지능이 생성한 자료가 허위로 밝혀져 비판이나 제재를 받았습니다. 두카노비치는 소장에서 앤트로픽을 대리하는 로펌 레이텀 앤 왓킨스가 "이러한 일이 다시 발생하지 않도록 여러 단계의 추가 검토 절차를 도입했다"고 밝혔습니다
이번dent 생성형 인공지능과 관련된 법정 오류 사례 목록에 추가되었습니다.
지난주 캘리포니아의 한 판사는 두 로펌이 인공지능을 이용해 "존재하지 않는" 허위 참고 자료로 가득 찬 추가 소송 서류를 작성했다는 사실을 밝히지 않은 것을 질책했습니다. 12월에는 한 허위 정보 연구가가 자신이 작성한 서류에서 ChatGPT가 허위 인용문을 만들어냈다고 인정했습니다.
