법조인, 법정에서 ChatGPT 과의존으로 비판 받음

뉴욕의 변호사 스티븐 슈워츠(Levidow, Levidow & Oberman 법률 사무소 소속)는 아비아나 항공사를 상대로 한 소송을 처리하는 동안 법률 연구에 AI 언어 모델인 ChatGPT를 통합했다는 이유로 비판을 받고 있습니다. CNN 비즈니스는 5월 28일 보도에서 이 사건은 2019년 콜롬비아 항공사 비행 중 서비스 카트에 부상을 입었다고 주장하는 로버트 마타를 포함하고 있다고 전했습니다.

변호사는 ChatGPT에서 얻은 잘못된 문서를 제출함

사건은 진행 중인 심리를 담당하는 판사가 제출된 문서의 불일치와 사실상의 오류를 발견하면서 예상치 못한 방향으로 전개되었습니다. 5월 24일자로 작성된 진술서에서 슈워츠는 법률 연구를 위해 ChatGPT를 사용했으며, 그 내용 내에 잘못된 정보가 있을 가능성을 알지 못했다고 시인했습니다. 그는 이것이 법률 연구를 위해 AI 모델을 사용한 첫 번째 시도였다고 덧붙였습니다.

판사의 심사를 통해 변호사가 제출한 여러 사건이 허구적이며, 조작된 인용문과 부정확한 내부 인용이 포함되어 있음이 드러났습니다. 또한 특정 참조 사건이 존재하지 않는 것으로 확인되었으며, 사건 번호가 다른 법원 제출 문서와 잘못 연결된 사례도 있었습니다.

변호사는 충분한 주의 의무를 다하지 않고 AI 챗봇에 의존한 것에 대해 유감을 표명했습니다. 그의 진술서는 법률 연구 과정에서 생성형 인공지능을 사용한 것을 크게 후회하며, 절대적인 진위 확인 없이 이러한 관행을 반복하지 않겠다고 다짐했다고 강조했습니다.

분석가들, AI가 인간을 대체할 잠재력 논의

ChatGPT를 전문적인 워크플로우에 통합하는 것은 그 적합성과 신뢰성에 대한 지속적인 논쟁을 촉발시켰습니다. ChatGPT와 같은 AI 모델의 지능이 계속 발전하고 있지만, 인간 근로자를 완전히 대체할 수 있는 능력에 대해서는 여전히 의문이 제기됩니다. 블록체인 개발자 시드 가자나페르는 ChatGPT의 가치를 인정하지만, 인간 상호작용의 완전한 대체재로서의 의사소통 능력에 의문을 제기합니다. 그는 프로그래밍 언어가 모국어 영어로 효과적으로 전달되지 않을 수 있는 요구 사항을 해결하기 위해 만들어졌다고 강조합니다.

AI 기술이 발전함에 따라 개발자와 전문가들은 그 능력을 활용하는 것과 그것이 생성하는 정보의 정확성과 유효성을 보장하는 것 사이의 미묘한 균형을 탐색합니다. 스티븐 슈워츠와 그의 ChatGPT 사용 사례는 법률 연구 및 기타 전문적 맥락에서 인간의 감독과 비판적 평가의 중요성을 강조하는 교훈적인 사례로 작용합니다.

ChatGPT와 같은 AI 모델은 특정 작업을 간소화하는 데 도움이 될 수 있지만, 부정확성과 잘못된 정보의 위험을 최소화하기 위해 인간의 전문 지식과 철저한 검증 절차와 함께 사용되어야 합니다. AI의 능력 범위가 확장됨에 따라 전문가들이 이러한 도구를 업무에 통합할 때 신중함과 식별력을 발휘하는 것이 여전히 필수적입니다.