Anthropic afirma que Claude AI causó un error "vergonzoso e involuntario" en la demanda

Anthropic admitió el jueves que una referencia errónea en un documento judicial fue el resultado de su propio asistente de inteligencia artificial, Claude, y calificó el error como "un error vergonzoso e involuntario"

Universal, Concord y ABKCO demandaron a Anthropic el año pasado, alegando que la compañía con sede en San Francisco copió sus letras al por mayor para entrenar a Claude. Este caso es uno de varios de gran repercusión mediática sobre si las empresas tecnológicas pueden usar obras protegidas por derechos de autor sin permiso para entrenar sistemas de inteligencia artificial.

Reuters informó , durante una audiencia celebrada el martes, el abogado Matt Oppenheim, que representa a Universal Music Group, ABKCO y Concord, declaró ante el tribunal que la cita del chatbot era una "completa invención" para respaldar el caso de Anthropic.

La magistrada estadounidense Susan van Keulen calificó la última acusación como un asunto muy serio y grave y destacó la enorme diferencia entre una citación incumplida y una alucinación generada por IA. La jueza ordenó a las partes que explicaran el asunto detalladamente en sus alegatos escritos.

Los abogados de Anthropic dicen que Claude AI cometió un error al formatear

En una respuesta escrita el jueves, la abogada de Anthropic, Ivana Dukanovic, afirmó que la referencia era real, pero que se gestionó incorrectamente cuando se le pidió a Claude que la formateara con estilo legal. Explicó que los números de volumen y página incorrectos generados por el robot se corrigieron durante una revisión manual, pero que se filtraron errores de redacción sin previo aviso.

“Aunque se proporcionó el título de la publicación, el año de publicación y el enlace a la fuente proporcionados correctamente, la cita devuelta incluía un título inexacto y autores incorrectos”, escribió Dukanovic, y agregó que el error no era una “fabricación de autoridad”

Anthropic se disculpó por la confusión y dijo que el desliz no fue deliberado ni un intento de engañar al tribunal.

Los errores de la IA siguen causando problemas en los tribunales

Varios abogados han enfrentado recientemente críticas o sanciones por confiar en material generado por IA que resultó ser falso. En su presentación, Dukanovic afirmó que el bufete Latham & Watkins, que representa a Anthropic, ha añadido "varios niveles de revisión adicional para garantizar que esto no vuelva a ocurrir"

Eldent se suma a una lista creciente de errores judiciales relacionados con la IA generativa.

La semana pasada, un juez de California reprendió a dos bufetes de abogados por no haber declarado haber utilizado IA para elaborar un escrito complementario repleto de referencias "falsas" que "no existían". En diciembre, un investigador de desinformación admitió que ChatGPT había inventado citas en un expediente que él mismo había preparado.