Федеральные судьи США признались в использовании ИИ в «ошибочных» судебных решениях

Два федеральных судьи США признались, что сотрудники их канцелярий обратились к искусственному интеллекту для помощи в составлении судебных решений, и что этот эксперимент пошел не так.

В паре откровенных писем, обнародованных в четверг сенатором Чаком Грассли, председателем Комитета Сената по судебной системе, судьи Генри Т. Уингейт из Миссисипи и Джулиен Ксавье Нилс из Нью-Джерси заявили, что инструменты ИИ использовались при подготовке судебных постановлений, которые позже оказались изобилующими фактическими ошибками и юридическими упущениями. Оба решения впоследствии были отозваны.

Грассли, который требовал объяснений, сказал: «Каждый федеральный судья и судебная система как институт обязаны обеспечить, чтобы использование генеративного ИИ не нарушало права истцов и не препятствовало справедливому обращению по закону». 

Ошибки персонала обнажают ограничения ИИ в зале суда

В своем письме, судья Нилс из округа Нью-Джерси заявил, что черновик решения по иску о ценных бумагах был выпущен «по ошибке — человеческой ошибке», после того как стажер юридического факультета использовал ChatGPT от OpenAI для исследований без разрешения или раскрытия информации. Решение было немедленно отозвано, как только ошибка была обнаружена.

Чтобы предотвратить повторение ситуации, Нилс сказал, что его канцелярия с тех пор создала письменную политику использования ИИ и усилила процесс проверки.

Судья Уингейт, который служит в Южном округе Миссисипи, заявил, что судебный клерк использовал инструмент ИИ Perplexity «в качестве базового помощника для составления проектов, чтобы синтезировать общедоступную информацию из реестра дел». 

Этот проект постановления, вынесенный по делу о гражданских правах, был позже заменен после того, как он выявил ошибки. Уингейт заявил, что событие «было упущением в человеческом надзоре», добавив, что он с тех пор ужесточил процедуры проверки в своей канцелярии.

Критика использования ИИ в юридической работе

Этот инцидент добавляется к растущему списку скандалов, связанных с юридическими материалами, сгенерированными ИИ. В последние годы адвокаты в нескольких юрисдикциях США сталкивались с санкциями за подачу документов, составленных чат-ботами, которые содержали вымышленные ссылки на дела и неправильное применение прецедентов. 

Ранее в этом месяце судебная система штата Нью-Йорк выпустила новую политику, которая запрещает судьям и персоналу вводить конфиденциальную, привилегированную или непубличную информацию о делах в публичные инструменты генеративного ИИ.

Хотя юридическая профессия быстро исследует потенциал ИИ для повышения эффективности, инциденты обнажили ограничения технологии, особенно ее склонность к галлюцинациям, то есть генерации правдоподобной, но ложной информации. Для судов, где целостность, точность решений и бремя доказывания имеют первостепенное значение, такие упущения рискуют подорвать общественное доверие к системе правосудия.

Грассли, который похвалил Уингейта и Нилса за признание ошибок, также призвал судебную систему внедрить более строгие руководящие принципы по использованию ИИ. 

Административное управление судов США не выпустило всеобъемлющих руководящих принципов по использованию ИИ, хотя несколько окружных судов, как сообщается, изучают рамки для ограниченного, контролируемого развертывания. С другой стороны, юридические ученые, как сообщается, предлагают правило раскрытия информации, которое потребует от судей публично отмечать любое использование ИИ в их мнениях или постановлениях, аналогично требованиям к цитированию внешних исследований.

Инциденты происходят на фоне того, как федеральные агентства и профессиональные организации продолжают разбираться с вопросами подотчетности ИИ.