Anthropic affirme que Claude AI a causé une erreur « embarrassante et involontaire » dans le procès

Jeudi, Anthropic a admis qu'une référence erronée dans un document judiciaire était due à son propre assistant IA, Claude, et a qualifié cette erreur d'« embarrassante et involontaire »

Universal, Concord et ABKCO ont intenté un procès à Anthropic l'an dernier, l'accusant d'avoir copié intégralement leurs paroles pour entraîner Claude. Cette affaire est l'une des nombreuses affaires médiatisées portant sur la question de savoir si les entreprises technologiques peuvent utiliser des œuvres protégées par le droit d'auteur sans autorisation pour entraîner des systèmes d'intelligence artificielle.

Reuters a rapporté que lors d'une audience mardi, l'avocat Matt Oppenheim, qui représente Universal Music Group, ABKCO et Concord, a déclaré au tribunal que la citation du chatbot était une « fabrication complète » destinée à soutenir la cause d'Anthropic.

La juge magistrate américaine Susan van Keulen a qualifié la dernière allégation de « problème très grave » et a souligné « l’immense différence entre une contravention non respectée et une hallucination générée par une intelligence artificielle ». La juge a ordonné aux parties de fournir des explications complètes dans leurs conclusions écrites.

Des avocats anthropologues affirment que Claude AI a commis une erreur de formatage

Dans une réponse écrite datée de jeudi, Ivana Dukanovic, avocate chez Anthropic, a indiqué que la référence était authentique, mais qu'elle avait été mal gérée lorsque Claude avait été invité à la mettre en forme selon les normes juridiques. Elle a expliqué que les erreurs de volume et de pagination générées par le robot avaient été corrigées lors d'une vérification manuelle, mais que des erreurs de formulation étaient passées inaperçues.

« Bien que le titre de la publication, l’année de publication et le lien vers la source fournis soient corrects, la citation renvoyée comportait un titre inexact et des auteurs incorrects », a écrit Dukanovic, ajoutant que ce problème technique n’était pas une « fabrication d’autorité »

Anthropic a présenté ses excuses pour la confusion et a déclaré que cette erreur n'était ni délibérée ni une tentative de tromper le tribunal.

Les erreurs de l'IA continuent de causer des problèmes devant les tribunaux

Plusieurs avocats ont récemment fait l'objet de critiques ou de sanctions pour s'être appuyés sur des informations générées par une IA qui se sont révélées fausses. Dans sa requête, Dukanovic a indiqué que le cabinet d'avocats Latham & Watkins, qui représente Anthropic, a mis en place « plusieurs niveaux de contrôle supplémentaires afin de s'assurer que cela ne se reproduise plus »

Cetdent vient s'ajouter à une liste croissante d'erreurs judiciaires liées à l'IA générative.

La semaine dernière, un juge californien a réprimandé deux cabinets d'avocats pour avoir omis de mentionner l'utilisation de l'IA dans la rédaction d'un mémoire complémentaire truffé de références « bidon » qui « n'existaient pas ». En décembre, un chercheur spécialisé dans la désinformation a admis que ChatGPT avait inventé des citations dans un document qu'il avait préparé.