Anthropic bajo fuego por supuesta cita fabricada por IA en demanda por derechos de autor

Un juez federal en San José, California, ordenó recientemente a Anthropic, una empresa de inteligencia artificial, que abordara las alegaciones de que, al defenderse de las reclamaciones por derechos de autor de un grupo de editoras musicales, presentó un documento judicial que incluía una “alucinación” generada por IA.

La demanda presentado por el grupo de editoras musicales es uno de muchos casos de alto perfil en los que los titulares de derechos de autor demandan a empresas tecnológicas por supuestamente usar indebidamente sus creaciones para entrenar sistemas de IA.

Las compañías musicales demandan a Anthropic por supuesta cita de derechos de autor fabricada por IA

Durante una audiencia en una demanda que acusa a Anthropic de usar indebidamente letras de canciones para entrenar su chatbot Claude, un abogado que representa a Universal Music Group, Concord y ABKCO le dijo a la Jueza Magistrada de EE. UU., Susan Van Keulen, que un científico de datos de Anthropic citó un artículo académico fabricado para respaldar la posición de la empresa en una disputa de pruebas.

Matt Oppenheim, abogado de las compañías musicales, dijo que había verificado la inexistencia del artículo con la revista y uno de los supuestos autores. Se refirió a la cita como una fabricación total.

Oppenheim dijo que no creía que la experta, Olivia Chen, hubiera fabricado la cita intencionalmente, pero señaló que creen que la Sra. Chen probablemente usó la herramienta de IA de Anthropic, Claude, para generar su argumento y la autoridad de apoyo.

Como resultado de las alegaciones, Van Keulen solicitó una respuesta de Anthropic para el jueves respecto al cargo, que la compañía afirmó fue un error de cita no intencional. 

Curiosamente, las compañías musicales pidieron al juez que interrogara a la experta de inmediato. Sin embargo, ella refutó las afirmaciones, declarando que la alegación era “un asunto serio y grave” y que había una diferencia significativa entre una alucinación generada por IA y una cita omitida.

Por otro lado, Sy Damle, Vicepresidente de la Práctica de Inteligencia Artificial en Latham & Watkins y exabogado general de la Oficina de Derechos de Autor de EE. UU., expresó su insatisfacción durante la audiencia, afirmando que los acusadores los estaban “sorprendiendo” al no realizar el ataque antes. Afirmó que, aunque la cita era inexacta, se refería al artículo correcto.

Para respaldar criterios específicos para evaluar con qué frecuencia Claude reproducía letras de canciones con derechos de autor —un fenómeno que Anthropic describe como un “evento raro”—, el informe de la experta citó un artículo de la revista American Statistician. Sin embargo, el enlace proporcionado dirigía a un artículo completamente diferente de la misma revista, con un título y autores distintos.

Después de la audiencia, los abogados y representantes de Anthropic no respondieron inmediatamente a una solicitud de comentario. Chen tampoco pudo ser contactada para comentar de inmediato.

Ziff Davis se une a la creciente tendencia de demandas por derechos de autor de alto riesgo 

Ziff Davis, un editor de medios digitales, presentó una demanda demanda contra OpenAI en un tribunal federal de Delaware el mes pasado, alegando que la firma de inteligencia artificial respaldada por Microsoft había utilizado indebidamente sus publicaciones para entrenar el modelo para el conocido chatbot ChatGPT.

Según una copia de la demanda que proporcionó la empresa de medios, Ziff Davis sostuvo que OpenAI explotó deliberada y persistentemente el contenido con derechos de autor para sus sistemas de IA.

En una declaración, la demanda afirmaba: “OpenAI busca avanzar rápido y romper cosas bajo la suposición de que los tribunales federales no podrán remediar eficazmente las preocupaciones a veces existenciales de los propietarios de contenido antes de que sea demasiado tarde.” 

Las publicaciones de Ziff Davis incluyen el sitio web de consejos Lifehacker y los sitios de noticias tecnológicas ZDNet, PCMag, CNET e IGN. Otros medios de comunicación, como Dow Jones y The New York Times, han presentado demandas por robo de derechos de autor contra empresas de IA.

Según OpenAI y otros demandados, como Google y Meta Platforms, sus sistemas de IA utilizan legítimamente contenido con derechos de autor al aprender de él para producir contenido original y revolucionario.

Organizaciones periodísticas, escritores, artistas visuales y otros han presentado demandas por derechos de autor de alto perfil contra OpenAI y otras empresas tecnológicas por supuestamente utilizar miles de obras protegidas por derechos de autor para entrenar sus sistemas de IA generativa sin autorización. Esta nueva demanda se suma a la creciente tendencia de estos casos.