Anthropic bajo fuego por una supuesta cita inventada por IA en una demanda por derechos de autor

Un juez federal de San José, California, ordenó recientemente a Anthropic, una empresa de inteligencia artificial, que abordara las acusaciones de que, al defenderse de reclamos de derechos de autor por parte de un grupo de editores musicales, presentó un documento judicial que incluía una “alucinación” generada por IA

La demanda presentada por los editores musicales es uno de los muchos casos de alto perfil en los que los titulares de derechos de autor están demandando a las empresas tecnológicas por supuestamente utilizar sus creaciones de forma indebida para entrenar sistemas de inteligencia artificial.

Compañías musicales demandan a Anthropic por presuntas citaciones de derechos de autor fabricadas por IA

Durante una audiencia en una demanda que acusa a Anthropic de usar indebidamente letras de canciones para entrenar a su chatbot Claude, un abogado que representa a Universal Music Group, Concord y ABKCO le dijo a la jueza magistrada estadounidense Susan Van Keulen que un científico de datos de Anthropic citó un artículo académico falsificado para respaldar la posición de la compañía en una disputa sobre las pruebas.

Matt Oppenheim, abogado de las compañías musicales, afirmó haber verificado la inexistencia del artículo con la revista y uno de los supuestos autores. Calificó la cita como una invención total.

Oppenheim dijo que no creía que la experta, Olivia Chen, hubiera inventado intencionalmente la cita, pero señaló que creen que la Sra. Chen probablemente utilizó la herramienta de inteligencia artificial de Anthropic, Claude, para generar su argumento y la autoridad que lo respalda.

Como resultado de las acusaciones, Van Keulen solicitó una respuesta de Anthropic antes del jueves con respecto al cargo, que según la compañía fue un error de citación involuntario. 

Curiosamente, las compañías musicales pidieron a la jueza que interrogara a la experta de inmediato. Aun así, esta refutó las acusaciones, afirmando que la acusación era "un asunto serio y grave" y que existía una diferencia significativa entre una alucinación generada por IA y una citación no notificada.

Por otro lado, Sy Damle, vicepresidente de la Práctica de Inteligencia Artificial en Latham & Watkins y exasesor general de la Oficina de Derechos de Autor de EE. UU., expresó su descontento durante la audiencia, alegando que los acusadores los estaban "sandbagando" al no haber realizado el ataque antes. Afirmó que, si bien la cita era inexacta, se refería al artículo correcto.

Para respaldar los criterios específicos para evaluar la frecuencia con la que Claude reproducía letras de canciones protegidas por derechos de autor —un fenómeno que Anthropic describe como un «evento inusual»—, la presentación del experto citaba un artículo de la revista American Statistician. Sin embargo, el enlace proporcionado dirigía a un artículo completamente diferente de la misma revista, con un título y autores diferentes.

Tras la audiencia, los abogados y representantes de Anthropic no respondieron de inmediato a una solicitud de comentarios. Tampoco fue posible contactar con Chen para que hiciera declaraciones de inmediato.

Ziff Davis se suma a la creciente tendencia de demandas de derechos de autor de alto riesgo 

Ziff Davis, un editor de medios digitales, presentó una demanda contra OpenAI en un tribunal federal en Delaware el mes pasado, alegando que la empresa de inteligencia artificial respaldada por Microsoft había utilizado indebidamente sus publicaciones para entrenar el modelo del conocido chatbot ChatGPT.

Según una copia de la demanda proporcionada por la empresa de medios, Ziff Davis sostuvo que OpenAI explotó deliberada y persistentemente contenido protegido por derechos de autor para sus sistemas de IA.

En una declaración, la denuncia afirma: “OpenAI busca actuar con rapidez y resolver problemas asumiendo que los tribunales federales no podrán resolver eficazmente las preocupaciones, a veces existenciales, de los propietarios de contenido antes de que sea demasiado tarde” 

Las publicaciones de Ziff Davis incluyen el sitio web de consejos Lifehacker y los sitios de noticias tecnológicas ZDNet, PCMag, CNET e IGN. Otros medios de comunicación como Dow Jones y The New York Times han presentado demandas por robo de derechos de autor contra empresas de inteligencia artificial.

Según OpenAI y otros acusados, como Google y Meta Platforms, sus sistemas de IA utilizan legítimamente contenido protegido por derechos de autor y aprenden de él para producir contenido original y revolucionario.

Organizaciones de noticias, escritores, artistas visuales y otros han presentado importantes demandas por derechos de autor contra OpenAI y otras empresas tecnológicas por el presunto uso de miles de obras protegidas por derechos de autor para entrenar sus sistemas de IA generativa sin autorización. Esta nueva demanda se suma a la creciente tendencia de estos casos.