모건앤모건은 변호사들에게 인공지능에 대한 환상에 속지 말라고tron경고했습니다

미국의 개인 상해 전문 로펌인 모건앤모건(Morgan & Morgan)은 이달 초 소속 변호사 1,000여 명에게 긴급 이메일을 보낸 것으로 알려졌다. 이 이메일에는 인공지능(AI)이 매우 설득력 있는 가짜 판례를 만들어낼 수 있다는 중요한 경고가 담겨 있었다. 

로펌은 변호사가 자신의 주장을 뒷받침하기 위해 법원 서류에 이러한 허위 정보를 사용하는 경우 해임될 수 있다고 경고했습니다.

메시지는 명확하고 간결했습니다. 

모건앤모건의 고위 관계자들은 더 이상 말을 돌려 말할 여유가 없었습니다. 와이오밍 주의 한 연방 판사가 월마트를. 

법원 서류에서 인공지능 환각제를 사용한 변호사 중 한 명은 자신이 사건에 대한 "환각"을 만들어내는 인공지능 프로그램을 사용했다고 시인했으며, 이를 의도치 않은 실수였다며 사과했습니다.

판사는 모건앤모건 변호사들에 대한 징계 조치를 아직 결정하지 않았다    

오랫동안 회의론자들은 인공지능 확산으로 인한 최악의 시나리오를 예상해 왔습니다. 이제 인공지능은 법률 시스템에도 영향을 미치고 있으며, 인공지능이 만들어낸 허구의 사건들로 인해 전국 법원에서 변호사들의 잘못을 지적하거나 심지어 처벌하는 사례까지 발생하고 있습니다. 

지난 2년간 최소 7건의 사례가 발생했으며, 이는 소송 당사자와 판사들에게 새로운 첨단 기술적 골칫거리로 공식적으로 자리 잡았습니다. 이제 판사들은 변호사 주장의 신빙성을 먼저 판단해야 합니다.  

월마트 사건은 유명 로펌과 대기업 피고가 연루된 사례로, 변호사가 법정에서 인공지능 "환각"을 활용한 대표적인 사례 중 하나입니다. 하지만 챗봇(예: ChatGPT)이 인공지능 시대를 열면서 이러한 활용 사례는 덜 알려진 여러 소송에서도 관찰되어 왔습니다.

판사는 월마트 사건, 즉 결함이 있는 것으로 알려진 호버보드 장난감과 관련된 사건에서 변호사들을 징계할지 여부에 대해 아직 결정을 내리지 않았다.

변호사들은 인공지능 생성기가 만들어내는 허구의 사실에 주의해야 한다는 경고를 받았습니다 

생성형 AI 덕분에 변호사들이 법률 서류를 조사하고 작성하는 데 소요하는 시간이 줄어든 것은 사실입니다. 많은 로펌들이trac을 맺거나 자체 AI 도구를 . 

지난해 톰슨 로이터가 실시한 설문조사에 따르면, 로이터 모회사에서 설문에 참여한 변호사 중 최소 63%가 업무에 인공지능을 사용한 경험이 있다고 답했으며, 12%는 정기적으로 사용한다고 답했습니다.

문제는 생성형 인공지능이 사실을 자신dent지어내는 것으로 악명이 높다는 점이며, 따라서 업무에 이를 활용하려는 변호사들은 신중을 기해야 한다고 법률 자문가들은 말했습니다. 

인공지능이 때때로 잘못된 정보를 생성할 때, 이를 "환각"이라고 부릅니다. 이러한 모델은 방대한 데이터 세트에서 학습한 통계적 패턴을 기반으로 응답을 생성하며, 데이터 세트 내의 사실을 검증하는 방식으로 작동하지 않습니다.

법무장관에 따르면 변호사는 법원에 제출하는 서류를 검토하고 그 내용에 책임을 져야 하며, 그렇지 않을 경우 징계 조치를 받을 위험이 있습니다. 작년에 미국변호사협회는 40만 명의 회원들에게 이러한 의무가 인공지능 (AI)을 통해 생성된 "의도치 않은 오류"에도 적용된다고 공지했습니다.

서퍽 대학교 법학대학원 학장이자 AI 옹호자인 앤드류 펄먼은 "변호사가 ChatGPT나 다른 생성형 AI 도구를 사용하여 검증 없이 인용문을 생성하는 것이 적발되면, 그것은 순전히 무능함의 결과"라고 말했다 

콜로라도 대학교 로스쿨에서 인공지능과 법을 연구하는 해리 서든 교수는 변호사들에게 점차dent 하게 되는 "도구들의 장단점을 배우는 데 시간을 투자하라"고 촉구했습니다. 

서든은 이전 사례들이 업계의 "인공지능 활용 능력 부족"을 드러낸다고 말하며, 많은 변호사들이 인공지능 도구의 한계와 잠재적 오류를 제대로 인지하지 못해 법률 서류에 그러한 오류를 포함시키는 경우가 많다고 지적했습니다.

물론 서든은 기술 탓으로 돌리지 않습니다. "변호사들은 인공지능을 상대로 서류를 제출할 때 항상 실수를 저질러 왔습니다. 이건 새로운 일이 아닙니다."라고 그는 말했습니다. 

모건앤모건은 소속 변호사들의 AI 사용을 금지하지는 않았지만, 생성형 AI 사용에 따른 잠재적 위험성을 인지하도록 하려는 것으로 보입니다. 이러한 인식 제고는 오류 발생 가능성을 낮추는 데 도움이 되지만, 위험을 완전히 제거할 수는 없습니다. 법률 업무와 관련된 AI 생성 콘텐츠에 대한 철저한 검증 시스템은 업계의 전문성을 유지하고, 대중의 신뢰를 지키며, 법적 문제를 예방하는 데 매우 중요할 것입니다.