Anthropic sagt, Claude AI habe „peinlichen und unbeabsichtigten“ Fehler in der Klage verursacht

Anthropic gab am Donnerstag zu, dass ein fehlerhafter Verweis in einem Gerichtsverfahren auf seinen eigenen KI-Assistenten Claude zurückzuführen war, und nannte den Fehler „eine peinliche und unbeabsichtigte Panne.“

Universal, Concord und ABKCO klagten letztes Jahr gegen Anthropic und warfen dem Unternehmen in San Francisco vor, seine Texte kopiert zu haben, um Claude zu trainieren. Der Fall ist einer von mehreren hochkarätigen Fällen darüber, ob Technologieunternehmen urheberrechtlich geschützte Werke ohne Erlaubnis zum Trainieren von KI-Systemen verwenden dürfen.

Reuters berichtete, dass der Anwalt Matt Oppenheim, der Universal Music Group, ABKCO und Concord vertritt, dem Gericht während einer Anhörung am Dienstag mitteilte, dass das Zitat des Chatbots eine „vollständige Fälschung“ sei, um Anthropics Fall zu stützen.

US-Magistratssrichterin Susan van Keulen nannte die neueste Anschuldigung „ein sehr ernstes und schwerwiegendes Problem“ und betonte „einen Weltenunterschied zwischen einem verpassten Zitat und einer Halluzination, die von KI generiert wurde.“ Die Richterin ordnete an, dass die Parteien die Angelegenheit in ihren schriftlichen Einreichungen vollständig erläutern müssen.

Anthropic-Anwälte sagen, Claude AI habe beim Formatieren einen Fehler gemacht

In einer schriftlichen Antwort am Donnerstag sagte Anthropic-Anwältin Ivana Dukanovic, der Verweis sei real, wurde aber falsch behandelt, als Claude gebeten wurde, ihn im juristischen Stil zu formatieren. Sie erklärte, dass falsche Band- und Seitenzahlen, die vom Bot erzeugt wurden, während einer manuellen Überprüfung korrigiert wurden, Wortfehler jedoch unbemerkt durchschlüpften.

„Obwohl der korrekte Veröffentlichungstitel, das Veröffentlichungsjahr und der Link zur bereitgestellten Quelle angegeben wurden, enthielt das zurückgegebene Zitat einen ungenauen Titel und falsche Autoren“, schrieb Dukanovic und fügte hinzu, dass der Fehler keine „Fälschung von Autoritäten“ war.

Anthropic entschuldigte sich für die Verwirrung und sagte, der Fehler sei weder beabsichtigt noch ein Versuch, das Gericht zu täuschen.

KI-Fehler verursachen weiterhin Probleme vor Gericht

Mehrere Anwälte wurden kürzlich für ihre Abhängigkeit von KI-generiertem Material kritisiert oder bestraft, das sich als falsch herausstellte. In ihrer Einreichung sagte Dukanovic, die Anwaltskanzlei Latham & Watkins, die Anthropic vertritt, habe „mehrere zusätzliche Überprüfungsebenen eingeführt, um sicherzustellen, dass dies nicht wieder vorkommt.“

Der Vorfall schließt sich einer wachsenden Liste von Gerichtsfehlern an, die mit generativer KI verbunden sind.

Letzte Woche schaltete ein Richter in Kalifornien zwei Anwaltskanzleien ab, weil sie nicht angegeben hatten, dass sie KI verwendet hatten, um ein ergänzendes Schriftstück mit „falschen“ Verweisen zu verfassen, die „nicht existierten“. Im Dezember gab ein Forscher für Desinformation zu, dass ChatGPT in einem von ihm vorbereiteten Schriftstück Zitate erfunden hatte.