Anthropic dice que Claude AI causó un error «vergonzoso e involuntario» en la demanda

Anthropic admitió el jueves que una referencia defectuosa en un documento judicial fue resultado de su propio asistente de IA, Claude, y calificó la omisión como «un error vergonzoso e involuntario».

Universal, Concord y ABKCO demandaron a Anthropic el año pasado, alegando que la empresa con sede en San Francisco copió sus letras por completo para entrenar a Claude. El caso es uno de varios casos de alto perfil sobre si las empresas tecnológicas pueden utilizar obras con derechos de autor sin permiso para entrenar sistemas de IA.

Reuters informó que durante una audiencia el martes, el abogado Matt Oppenheim, que representa a Universal Music Group, ABKCO y Concord, dijo al tribunal que la cita del chatbot era una «falsificación completa» para respaldar el caso de Anthropic.

La jueza magistrada de EE. UU., Susan van Keulen, calificó la última alegación de «un asunto muy grave y serio» y subrayó «una gran diferencia entre una cita omitida y una alucinación generada por IA». La jueza ordenó a las partes que explicaran el asunto por completo en sus escritos.

Los abogados de Anthropic dicen que Claude AI se equivocó al dar formato

En una respuesta escrita el jueves, la abogada de Anthropic, Ivana Dukanovic, dijo que la referencia era real, pero se manipuló mal cuando se le pidió a Claude que la diera formato según el estilo legal. Explicó que los números de volumen y página incorrectos producidos por el bot se corrigieron durante una revisión manual, pero los errores de redacción se escaparon sin ser detectados.

«Aunque se proporcionó el título de la publicación correcta, el año de publicación y el enlace a la fuente proporcionada, la cita devuelta incluía un título inexacto y autores incorrectos», escribió Dukanovic, añadiendo que el fallo no fue una «falsificación de autoridad».

Anthropic se disculpó por la confusión y dijo que el error no fue deliberado ni un intento de engañar al tribunal.

Los errores de IA siguen causando problemas en los tribunales

Varios abogados han enfrentado recientemente críticas o sanciones por confiar en material generado por IA que resultó ser falso. En su presentación, Dukanovic dijo que el bufete de abogados Latham & Watkins, que representa a Anthropic, ha añadido «múltiples niveles de revisión adicional al trabajo para garantizar que esto no vuelva a ocurrir».

El incidente se suma a una lista creciente de errores en los tribunales vinculados a la IA generativa.

La semana pasada, un juez de California reprendió a dos bufetes de abogados por no decir que habían utilizado IA para redactar un escrito suplementario lleno de referencias «falsas» que «no existían». En diciembre, un investigador de la desinformación admitió que ChatGPT había inventado citas en un documento que había preparado.