Anthropic sous le feu des critiques pour une citation prétendument fabriquée par IA dans une action en contrefaçon

Un juge fédéral de San Jose, en Californie, a récemment ordonné à Anthropic, une société spécialisée dans l'intelligence artificielle, de répondre aux allégations selon lesquelles, dans le cadre de sa défense contre des revendications de droits d'auteur formulées par un groupe d'éditeurs de musique, elle aurait soumis un document judiciaire contenant une « hallucination » générée par une IA

La plainte déposée par les éditeurs musicaux est l'une des nombreuses affaires très médiatisées dans lesquelles des détenteurs de droits d'auteur poursuivent des entreprises technologiques pour avoir prétendument utilisé leurs créations de manière inappropriée afin d'entraîner des systèmes d'IA.

Des maisons de disques poursuivent Anthropic pour une citation de droit d'auteur prétendument fabriquée par une IA

Lors d'une audience dans le cadre d'un procès accusant Anthropic d'avoir utilisé indûment des paroles de chansons pour entraîner son chatbot Claude, un avocat représentant Universal Music Group, Concord et ABKCO a déclaré à la juge magistrate américaine Susan Van Keulen qu'un spécialiste des données d'Anthropic avait cité un article universitaire fabriqué de toutes pièces pour soutenir la position de l'entreprise dans un différend relatif aux preuves.

Matt Oppenheim, l'avocat des maisons de disques, a déclaré avoir vérifié l'inexistence de l'article auprès de la revue et de l'un des auteurs présumés. Il a qualifié la citation de pure invention.

Oppenheim a déclaré qu'il ne croyait pas que l'experte, Olivia Chen, ait intentionnellement fabriqué la citation, mais a noté qu'ils pensaient que Mme Chen avait probablement utilisé l'outil d'IA d'Anthropic, Claude, pour générer son argument et l'autorité de soutien.

Suite à ces allégations, Van Keulen a demandé à Anthropic de lui fournir une réponse avant jeudi concernant l'accusation, que la société a qualifiée d'erreur de citation involontaire. 

Curieusement, les maisons de disques ont demandé à la juge d'interroger immédiatement l'experte. Celle-ci a néanmoins contesté les allégations, affirmant qu'il s'agissait d'une « affaire grave » et qu'il existait une différence significative entre une hallucination générée par une intelligence artificielle et un simple oubli de contravention.

De son côté, Sy Damle, vice-président du département Intelligence artificielle chez Latham & Watkins et ancien conseiller juridique du Bureau du droit d'auteur des États-Unis, a exprimé son mécontentement lors de l'audience, affirmant que les accusateurs les « piégeaient » en tardant à porter plainte. Il a soutenu que, même si la citation était inexacte, elle renvoyait au bon article.

Pour étayer des critères précis d'évaluation de la fréquence à laquelle Claude a reproduit des paroles de chansons protégées par le droit d'auteur — un phénomène qu'Anthropic qualifie d'« événement rare » —, le rapport de l'expert citait un article de la revue American Statistician. Or, le lien fourni renvoyait à un article totalement différent, publié dans la même revue, avec un titre et des auteurs différents.

Après l'audience, les avocats et représentants d'Anthropic n'ont pas immédiatement répondu à notre demande de commentaires. Il a également été impossible de joindre M. Chen dans l'immédiat.

Ziff Davis s'inscrit dans la tendance croissante des procès à enjeux élevés en matière de droit d'auteur 

Ziff Davis, un éditeur de médias numériques, a intenté un procès contre OpenAI devant un tribunal fédéral du Delaware le mois dernier, alléguant que la société d'intelligence artificielle soutenue par Microsoft avait utilisé de manière inappropriée ses publications pour entraîner le modèle du célèbre chatbot ChatGPT.

Selon une copie de la plainte fournie par la société de médias, Ziff Davis affirmait qu'OpenAI exploitait délibérément et de manière persistante du contenu protégé par le droit d'auteur pour ses systèmes d'IA.

Dans un communiqué, la plainte indique : « OpenAI cherche à agir vite et à prendre des risques en partant du principe que les tribunaux fédéraux ne seront pas en mesure de remédier efficacement aux préoccupations parfois existentielles des propriétaires de contenu avant qu'il ne soit trop tard. » 

Parmi les publications de Ziff Davis figurent le site de conseils Lifehacker et les sites d'actualités technologiques ZDNet, PCMag, CNET et IGN. D'autres médias, comme Dow Jones et le New York Times, ont intenté des poursuites pour violation de droits d'auteur contre des entreprises spécialisées en intelligence artificielle.

Selon OpenAI et d'autres défendeurs, tels que Google et Meta Platforms, leurs systèmes d'IA utilisent légitimement du contenu protégé par le droit d'auteur en apprenant de celui-ci pour produire un contenu original et révolutionnaire.

Des médias, des écrivains, des artistes visuels et d'autres ont intenté des poursuites judiciaires pour violation de droits d'auteur contre OpenAI et d'autres entreprises technologiques, les accusant d'avoir utilisé sans autorisation des milliers d'œuvres protégées pour entraîner leurs systèmes d'intelligence artificielle générative. Cette nouvelle action en justice s'inscrit dans un contexte de multiplication de ces affaires.