Юридическая фирма Morgan & Morgan направляет строгое предупреждение юристам против попадания в ловушку галлюцинаций ИИ

Как сообщается, американская юридическая фирма по делам о причинении вреда здоровью Morgan & Morgan отправила в этом месяце срочное электронное письмо более чем 1000 юристам, с которыми она сотрудничает. В коммюнике содержалось важное предупреждение о способности ИИ создавать очень убедительные вымышленные судебные прецеденты. 

Юридическая фирма предупредила, что любой юрист, использующий эту выдуманную информацию в судебных документах для подтверждения своих аргументов, может быть отстранен от дела.

Сообщение было четким и прямым. 

Руководство Morgan & Morgan не могло позволить себе смягчать формулировки, поскольку федеральный судья в Вайоминге только что пригрозил наказать двух юристов фирмы за включение вымышленных ссылок на судебные прецеденты в иск против Walmart. 

Согласно признанию одного из юристов, использовавшего галлюцинации ИИ в судебном документе, он использовал программу ИИ, которая «выдумала» дела, и извинился за то, что назвал случайной ошибкой.

Судья еще не принял решение о дисциплинарном взыскании против юристов Morgan & Morgan    

Долгое время скептики предвидели худшие сценарии распространения ИИ. Теперь ИИ влияет на правовую систему, и его выдуманные дела заставляют суды по всей стране ставить под сомнение или даже наказывать нарушителей. 

За последние два года произошло как минимум семь таких случаев, и это официально стало новой высокотехнологичной головной болью для истцов и судей, которым теперь приходится сначала определять достоверность аргументов юристов.  

Дело Walmart является одним из самых известных случаев использования юристом «галлюцинаций» ИИ в суде, поскольку оно затрагивает известную юридическую фирму и крупного корпоративного ответчика. Однако его использование наблюдалось и в различных других менее известных судебных процессах, начиная с тех пор, как чат-боты ChatGPT дали старт эре ИИ.

Судья еще не вынес решение о том, наказывать ли юристов по делу Walmart, которое касалось allegedly defective hoverboard toy (предположительно неисправной игрушки-самоката).

Юристов призывают быть осторожными с выдуманными фактами от генеративного ИИ 

Это правда, что благодаря генеративному ИИ юристы теперь тратят меньше времени на исследования и составление юридических документов. Многие юридические фирмы даже заключили контракты с поставщиками ИИ или создали свои собственные инструментов ИИ для максимизации производительности. 

Согласно опросу Thomson Reuters, проведенному в прошлом году, как минимум 63% опрошенных юристов, проведенном материнской компанией Reuters, заявили, что использовали ИИ в своей работе, а 12% сказали, что используют его регулярно.

Проблема в том, что генеративный ИИ известен тем, что уверенно выдумывает факты, поэтому юристы, пытающиеся использовать его для работы, должны делать это с осторожностью, заявили юридические консультанты. 

Когда ИИ иногда производит ложную информацию, это называется «галлюцинациями». Модели генерируют ответы на основе статистических закономерностей, изученных из больших наборов данных, а не путем проверки фактов в этих наборах данных.

Согласно заявлению адвоката, юристы обязаны проверять и нести ответственность за свои судебные документы или рискуют столкнуться с дисциплинарными мерами. В прошлом году Американская барская ассоциация проинформировала своих 400 000 членов о том, что эти обязательства распространяются на «даже непреднамеренную неточность» созданную через ИИ.

Эндрю Перлман, декан юридической школы Университета Саффолка и сторонник ИИ, сказал: «Когда юристов ловят на использовании ChatGPT или любого инструмента генеративного ИИ для создания ссылок без их проверки, это некомпетентность, просто чистая и простая». 

Гарри Сурден, профессор юридической школы Университета Колорадо, изучающий ИИ и право, призвал юристов найти время, чтобы изучить «сильные и слабые стороны инструментов», на которые они постепенно начинают полагаться. 

Сурден сказал, что предыдущие случаи подчеркивают «недостаток грамотности в области ИИ» в отрасли, где многие юристы не полностью осознают ограничения и потенциальные ошибки, которые могут допускать инструменты ИИ, что приводит к тому, что они представляют эти ошибки в своих юридических документах.

Конечно, Сурден не винит технологию. «Юристы всегда допускали ошибки в своих документах до появления ИИ. Это не ново», — сказал он. 

Хотя Morgan & Morgan не запретила своим юристам использовать ИИ, похоже, она хочет, чтобы ее юристы были осведомлены о потенциальных рисках использования генеративному ИИ. Эти знания, как ожидается, снизят вероятность ошибок, но не устранят риск полностью. Тщательная система проверки контента, сгенерированного ИИ и связанного с юридической работой, будет иметь решающее значение для поддержания профессиональных стандартов отрасли, сохранения доверия общественности и избежания юридических последствий.