Суд Великобритании предупреждает о суровых наказаниях для юристов, использующих поддельные цитаты ИИ

Высший суд Англии и Уэльса предупредил юристов об опасностях полагаться на инструменты ИИ, такие как ChatGPT, для юридических исследований. Судья Виктория Шарп постановила, что эти инструменты генеративного ИИ не могут проводить надежные юридические исследования.

Судья Шарп заявлял что инструменты ИИ могут предоставлять кажущиеся связными и правдоподобными ответы, но при этом быть совершенно неверными. Она уточнила, что, хотя юристы могут использовать ИИ в своих исследованиях, они несут профессиональную обязанность проверять точность таких исследований, обращаясь к авторитетным источникам, прежде чем использовать их в своей профессиональной деятельности.

Заявления судьи прозвучали на фоне растущих опасений по поводу случаев, когда юристы цитировали то, что казалось ложью, сгенерированной ИИ. Решение дамы Шарп ссылается на два недавних дела, в которых юристы были признаны виновными в цитировании поддельных дел, сгенерированных ИИ, в судебных процессах. Она сказала, что ее решение будет передано профессиональным организациям в стране, включая Барр и Общество адвокатов.

Адвокат Хуссейн цитирует несуществующие дела по иску на сумму $120

Юристы, будьте осторожны: опасности использования ИИ для подготовки документов без проверки

В деле Аль-Харуна суд выявил ошеломляющие 45 ссылок, которые либо не существовали, либо содержали неточные цитаты. Шокирующе, но эти ложные цитаты изначально были сгенерированы… pic.twitter.com/CbgNy1z7X1

— Lawpoint Uganda (@Lawpointuganda) июня 7, 2025

Адвокат Абид Хуссейн цитировал несуществующие дела в иске на сумму $120 млн (£89 млн) относительно предполагаемого нарушения соглашения о финансировании с Национальным банком Катара. Хуссейн подал заявление с 45 ссылками, из которых 18 не существовали, в то время как многие другие не содержали цитат, которые им приписывались. 

Клиент, Хамад Аль-Харун, извинился за непреднамеренное введение суда в заблуждение ложными данными из общедоступных инструментов ИИ и сказал, что он несет ответственность, а не его адвокат, Хуссейн. Но Шарп сказала, что это «невероятно», что адвокат полагался на клиента в отношении точности их юридических исследований, а не наоборот.

Судья Шарп, президент отделения Королевской скамьи, сказала, что есть серьезные последствия для отправления правосудия и общественного доверия к судебной системе, если ИИ будет использоваться неправильно. Она добавила, что юристы, злоупотребляющие ИИ, могут столкнуться с публичным порицанием и передачей дела в полицию. Она призвала Барр и Общество адвокатов рассмотреть меры по ограничению проблемы «в срочном порядке».

Судья также попросила руководителей палат барристеров и управляющих партнеров юридических фирм убедиться, что все юристы понимают свои профессиональные и этические обязанности при использовании ИИ.

«Ответы могут делать уверенные утверждения, которые просто неверны. Они могут ссылаться на источники, которых не существует. Они могут притворяться, что цитируют отрывки из подлинного источника, которых нет в этом источнике».

–Судья Виктория Шарп, президент отделения Королевской скамьи

Иан Джеффри, генеральный директор Общества адвокатов Англии и Уэльса, заявил, что это решение обнажило опасности использования ИИ в юридической работе. Он добавил, что инструменты ИИ все чаще используются для поддержки оказания юридических услуг. Тем не менее, реальный риск получения неверных результатов, производимых генеративным ИИ, требует от юристов проверки, обзора и обеспечения точности своей работы.

Адвокат Форея цитирует пять поддельных дел в жилищном иске арендатора

Барристер Сара Форея цитировала пять поддельных дел в жилищном иске арендатора против Лондонского боро Харинги. Форея отрицала использование ИИ, но Шарп сказала, что она не предоставила суду связного объяснения того, что произошло.

Судья также предупредила, что предоставление ложных материалов в качестве подлинных может считаться неуважением к суду или, в «самых вопиющих случаях», искажением хода правосудия. Она добавила, что это может привести к суровым наказаниям для юристов, которые не соблюдают свои профессиональные обязательства.

Шарп сказала, что Форея проявила тревожное отсутствие понимания, добавив, что суд не принял тот факт, что отсутствие доступа к учебникам или электронным подписным сервисам в палате, если это действительно так, предоставляет лишь незначительное смягчение.

Она утверждала, что Форея могла проверить дела, на которые она ссылалась, поискав на сайте Национального архива судебных дел или посетив юридическую библиотеку своей палаты. Шарп отметила, что Форея, должно быть, намеренно включила поддельные цитаты или использовала ИИ, несмотря на отрицание этого в своем свидетельском показании.

В прошлом месяце судья Ритчи заявил что, цитируя пять поддельных дел, поведение Фореи, тогда ученика в 3 Bolt Court, и юристов в юридическом центре Харинги в Лондоне было неуместным, неразумным и халатным. Он также приказал всем им оплатить понесенные впустую судебные издержки.