Компания Morgan & Morgantronпредупреждает юристов о недопустимости того, чтобы они поддавались иллюзиям искусственного интеллекта

По сообщениям, американская юридическая фирма Morgan & Morgan, специализирующаяся на делах о телесных повреждениях, в этом месяце разослала срочное электронное письмо более чем 1000 своим юристам. В сообщении содержалось важное предупреждение о возможностях искусственного интеллекта создавать очень убедительные фальшивые судебные прецеденты. 

Юридическая фирма предупредила, что любой адвокат, использующий эту вымышленную информацию в судебных документах для обоснования своей позиции, может быть уволен.

Сообщение было ясным и прямолинейным. 

Руководство юридической фирмы Morgan & Morgan не могло сдерживать эмоции, поскольку федеральный судья в Вайоминге только что пригрозил наложить санкции на двух юристов фирмы за включение вымышленных ссылок на судебные дела в иск против Walmart. 

Согласно признанию одного из адвокатов, использовавших в суде «галлюцинации» искусственного интеллекта, он применял программу ИИ, которая «галлюцинировала» в ходе судебных разбирательств, и извинился за то, что назвал непреднамеренной ошибкой.

Судья еще не принял решения о дисциплинарных мерах в отношении юристов компании Morgan & Morgan    

Долгое время скептики предсказывали наихудшие сценарии развития событий, связанные с распространением ИИ. Теперь же ИИ влияет на правовую систему: созданные им вымышленные дела приводят к тому, что суды по всей стране ставят под сомнение действия или даже наказывают недобросовестных адвокатов. 

За последние два года было рассмотрено как минимум семь подобных случаев, и это официально стало новой высокотехнологичной головной болью для участников судебных процессов и судей, которым теперь приходится сначала определять достоверность аргументов адвокатов.  

Дело Walmart — один из наиболее известных случаев использования юристами «галлюцинаций» искусственного интеллекта в суде, поскольку в нем фигурирует известная юридическая фирма и крупная корпорация-ответчик. Однако его применение наблюдалось и в других, менее известных судебных процессах, начиная с появления чат-ботов, таких как ChatGPT, которые дали старт эре ИИ.

Судья еще не вынес решения о том, следует ли применять дисциплинарные меры к адвокатам по делу Walmart, которое касалось якобы неисправной игрушечной доски-ховерборда.

Юристов призвали с осторожностью относиться к вымышленным фактам, создаваемым генеративным искусственным интеллектом 

Действительно, благодаря генеративному искусственному интеллекту юристы теперь тратят меньше времени на исследования и составление юридических документов. Многие юридические фирмы даже заключилиtracс поставщиками ИИ или разработали собственные инструменты на основе ИИ для повышения производительности. 

Согласно опросу, проведенному компанией Thomson Reuters в прошлом году, по меньшей мере 63% юристов, опрошенных материнской компанией Reuters, заявили, что используют ИИ в своей работе, а 12% — что используют его регулярно.

Проблема заключается в том, что генеративный ИИ известен своей способностьюdentвыдумывать факты, поэтому юристам, пытающимся использовать его в работе, следует проявлять осторожность, как отмечают юридические консультанты. 

Когда искусственный интеллект иногда выдает ложную информацию, это называется «галлюцинациями». Модели генерируют ответы на основе статистических закономерностей, выявленных в больших массивах данных, а не путем проверки фактов в этих массивах данных.

По словам адвоката, юристы обязаны проверять и подтверждать достоверность своих судебных документов, иначе им грозит дисциплинарное взыскание. В прошлом году Американская ассоциация юристов проинформировала своих 400 000 членов о том, что эти обязательства распространяются даже на «непреднамеренные искажения», допущенные с помощью искусственного интеллекта.

Эндрю Перлман, декан юридического факультета Саффолкского университета и сторонник искусственного интеллекта, сказал: «Когда юристов ловят на использовании ChatGPT или любого другого инструмента генеративного ИИ для создания ссылок без их проверки, это просто некомпетентность» 

Гарри Сурден, профессор права в юридической школе Университета Колорадо, изучающий искусственный интеллект и право, призвал юристов уделить время изучению «сильных и слабых сторон инструментов», от которых они постепенно начинаютdent . 

Сурден заявил, что предыдущие случаи подчеркивают «недостаточную осведомленность об искусственном интеллекте» в отрасли, где многие юристы не до конца понимают ограничения и потенциальные ошибки, которые могут допускать инструменты ИИ, что приводит к тому, что они указывают на эти ошибки в своих юридических документах.

Конечно, Сурден не винит в этом технологию. «Юристы всегда допускали ошибки в своих документах и ​​до появления ИИ. В этом нет ничего нового», — сказал он. 

Хотя компания Morgan & Morgan не запретила своим юристам использовать ИИ, похоже, она хочет, чтобы юристы были осведомлены о потенциальных рисках использования генеративного ИИ. Ожидается, что эти знания снизят вероятность ошибок, но не устранят риск полностью. Тщательная система проверки контента, созданного с помощью ИИ и связанного с юридической работой, будет иметь решающее значение для поддержания профессиональных стандартов отрасли, сохранения доверия общественности и предотвращения юридических последствий.