Morgan & Morgan envía unatronadvertencia a los abogados para que no se dejen llevar por las alucinaciones de la IA

Morgan & Morgan, un bufete estadounidense especializado en lesiones personales, supuestamente envió un correo electrónico urgente este mes a sus más de 1000 abogados. El comunicado contenía una advertencia crucial sobre la capacidad de la IA para crear casos judiciales falsos muy convincentes. 

El bufete de abogados advirtió que cualquier abogado que utilice esta información inventada en una presentación judicial para apoyar su argumento podría ser despedido.

El mensaje fue claro y directo. 

Los responsables de Morgan & Morgan no podían andarse con rodeos, ya que un juez federal de Wyoming acababa de amenazar con sancionar a dos abogados de la firma por incluir citas de casos ficticios en una demanda contra Walmart. 

Según la admisión de uno de los abogados que utilizó alucinaciones de IA en una presentación judicial, utilizó un programa de IA que "alucinaba" los casos y se disculpó por lo que llamó un error involuntario.

El juez aún no ha decidido qué medidas disciplinarias tomar contra los abogados de Morgan & Morgan    

Durante mucho tiempo, los escépticos anticiparon los peores escenarios de la proliferación de la IA. Ahora, la IA está afectando al sistema legal, con casos inventados que llevan a tribunales de todo el país a cuestionar o incluso castigar a abogados infractores. 

Ha habido al menos siete casos en los últimos dos años, y se ha convertido oficialmente en un nuevo dolor de cabeza de alta tecnología para litigantes y jueces que ahora tienen que determinar primero la credibilidad de los argumentos de los abogados.  

El caso Walmart es uno de los más conocidos en el que un abogado utilizó "ilusiones" de IA en los tribunales, ya que involucra a un bufete de abogados de renombre y a una gran corporación demandada. Sin embargo, su uso se ha observado en otros litigios menos conocidos desde que los chatbots como ChatGPT impulsaron la era de la IA.

El juez aún debe decidir si disciplinará a los abogados en el caso de Walmart, que involucra un juguete de patineta eléctrica supuestamente defectuoso.

Se insta a los abogados a tener cuidado con los hechos inventados por la IA generativa 

Es cierto que, gracias a la IA generativa, los abogados ahora dedican menos tiempo a investigar y redactar escritos legales. Muchos bufetes incluso han contratadotracde IA o desarrollado sus propias herramientas de IA para maximizar la productividad. 

Según una encuesta realizada por Thomson Reuters el año pasado, al menos el 63% de los abogados encuestados por la empresa matriz de Reuters dijeron que han utilizado IA en su trabajo, mientras que el 12% dijo que la usa regularmente.

El problema es que la IA generativa es famosa por inventar hechos condent, por lo que los abogados que intentan usarla en el trabajo deben hacerlo con cautela, han dicho los asesores legales. 

Cuando una IA produce información falsa, se denomina «alucinaciones». Los modelos generan respuestas basándose en patrones estadísticos aprendidos de grandes conjuntos de datos, en lugar de verificar los hechos presentes en dichos conjuntos.

Según el abogado, los letrados están obligados a revisar y respaldar sus documentos judiciales, o se arriesgan a sufrir medidas disciplinarias. El año pasado, la Asociación de Abogados de Estados Unidos informó a sus 400 000 miembros que dichas obligaciones se extienden incluso a “una declaración errónea involuntaria” producida mediante inteligencia artificial.

Andrew Perlman, decano de la facultad de derecho de la Universidad de Suffolk y defensor de la IA, dijo: “Cuando se descubre que los abogados usan ChatGPT o cualquier herramienta de IA generativa para crear citas sin verificarlas, eso es incompetencia, pura y simplemente” 

Harry Surden, profesor de Derecho en la Facultad de Derecho de la Universidad de Colorado que estudia la IA y el derecho, ha instado a los abogados a tomarse el tiempo para aprender "las fortalezas y debilidades de las herramientas" de las que gradualmente se están volviendodent . 

Surden dijo que los casos anteriores resaltan una “falta de alfabetización en IA” en la industria, donde muchos abogados no son completamente conscientes de los límites y los errores potenciales que pueden cometer las herramientas de IA, lo que los lleva a presentar esos errores en sus presentaciones legales.

Por supuesto, Surden no culpa a la tecnología. «Antes de la IA, los abogados siempre cometían errores en sus presentaciones. Esto no es nuevo», afirmó. 

Aunque Morgan & Morgan no prohibió a sus abogados el uso de la IA, parece que desea que sean conscientes de los riesgos potenciales de la IA generativa. Se espera que este conocimiento reduzca la probabilidad de cometer errores, pero no elimina por completo el riesgo. Un sistema de verificación exhaustivo para el contenido generado por IA relacionado con el trabajo legal será crucial para mantener los estándares profesionales del sector, preservar la confianza del público y evitar repercusiones legales.