Anthropic-CEO sagt, KI-Modelle „wahrscheinlich“ weniger halluzinieren als Menschen

Der Anthropic-CEO Dario Amodei sagte, dass die aktuellen KI-Modelle weniger halluzinieren als Menschen. Er sagte auch, dass heutige KI-Modelle Dinge erfinden und so darstellen, als wären sie wahr, was Anthopics Weg zur AGI nicht einschränken wird.

Während der Pressekonferenz bei Anthopics erstem Entwickler-Event „Code with Claude“ in San Francisco am Donnerstag argumentierte Amodei auch, dass TV-Sender, Politiker und Menschen in allen Arten von Berufen ständig Fehler machen. Nach seiner Ansicht ist die Tatsache, dass auch KI Fehler macht, kein K.O.-Kriterium für ihre Intelligenz. 

Amodei sagt, KI-Halluzinationen werden Anthopics Ziele nicht vereiteln

Niemand sollte überrascht sein, dass KI Fälle und Behörden halluziniert, da KI Merkmale ihrer Schöpfer übernimmt.

Jeder Anwalt, der regelmäßig mit Mandanten im Bereich der Rechtsstreitigkeiten zu tun hat, weiß, dass Mandanten sich stur in ihrer eigenen Realität verankern können, selbst wenn es…

— Cameron Atkinson (@camlatkinson) Mai 19, 2025

Amodei äußerte diese Bemerkungen unter der Anerkennung, dass KI-Halluzinationen den Weg von Anthropic zu AGI – also KI-Systemen mit menschlichem Intelligenzniveau oder besser – nicht einschränken. Er gehört zu den optimistischsten Führungskräften der Branche in Bezug auf die Aussichten, dass KI-Modelle AGI erreichen.

In einem weit verbreiteten Papier, das er im vergangenen Jahr verfasste, erklärte der Geschäftsführer des Unternehmens glaubt AGI könnte bereits 2026 eintreffen. Während der Pressekonferenz am Donnerstag erwähnte Amodei, dass er stetige Fortschritte in diese Richtung sehe, und wies darauf hin, dass das „Wasser überall steigt.“

Andere Führungskräfte im KI-Bereich sind der Ansicht, dass Halluzinationen ein großes Hindernis für die Erreichung von AGI darstellen. Anfang dieser Woche räumte Google-DeepMind-CEO Demis Hassabis ein, dass heutige KI-Modelle zu viele „Löcher“ aufweisen und zu viele offensichtliche Fragen falsch beantworten. Er argumentierte zudem, dass etwas, um als AGI bezeichnet zu werden, in allen Bereichen viel konsistenter sein müsste.

„Es hängt wirklich davon ab, wie man es misst, aber ich vermute, dass KI-Modelle wahrscheinlich weniger halluzinieren als Menschen, aber auf überraschendere Weise.“

-Dario Amodei, CEO von Anthropic.

Anfang dieses Monats musste ein Anwalt, der Anthropic vertritt, sich entschuldigen, nachdem er Claude verwendet hatte, um Zitate in einer Gerichtsakte zu erstellen. Das Problem bestand darin, dass der KI-Chatbot halluzinierte und Namen sowie Titel falsch angab.

Amodeis Behauptung ist schwer zu verifizieren, da die meisten Halluzinations-Benchmarks KI-Modelle gegeneinander antreten lassen; sie vergleichen Modelle nicht mit Menschen. KI-Modelle scheinen die Halluzinationsraten zudem mit bestimmten Techniken zu senken, wie etwa dem Zugriff auf Websuchen.

KI-Modelle reduzieren Halluzinationsraten mit bestimmten Techniken

Im Gegensatz zu einigen Diskussionen sehe ich in den Daten einfach keine Anzeichen für einen starken Anstieg der Halluzinationsraten bei neueren Modellen oder bei Reasonern insgesamt.

Es scheint, als würden einige Modelle besser abschneiden als andere, aber viele der jüngsten Modelle haben die niedrigsten Halluzinationsraten. pic.twitter.com/55JwikZ7OP

— Ethan Mollick (@emollick) Mai 6, 2025

OpenAI fanden Hinweise darauf, dass Halluzinationen bei fortschrittlichen Reasoning-KI-Modellen zunehmen. Laut dem Technologieunternehmen weisen seine o3- und o4-mini-Modelle höhere Halluzinationsraten auf als seine Reasoning-Modelle der vorherigen Generation, und das Unternehmen kann nicht erklären, warum.

Anthropic hat auch die Tendenz von KI-Modellen erforscht , Menschen zu täuschen, ein Problem, das im kürzlich von der Firma eingeführten Claude Opus 4 verbreitet zu sein schien. Apollo Research, ein Drittanbieter-Institut, das frühen Zugang zum Testen des KI-Modells hatte, enthüllte, dass eine frühe Version von Claude Opus 4 eine hohe Tendenz zeigte, gegen Menschen zu intrigieren und sie zu täuschen.

Laut einem Sicherheitsbericht von Anthropic veröffentlicht am Donnerstag fand das Institut auch heraus, dass Opus 4 bei seinen Unternehmungsversuchen proaktiver war als frühere Modelle. Das Unternehmen stellte zudem fest, dass das KI-Modell seine Täuschung manchmal verstärkte, wenn es Folgefragen gestellt wurden.

Apollo räumte ein, dass KI-Modelle zunehmend dazu neigen, unerwartete – und möglicherweise unsichere – Schritte zu unternehmen, um delegierte Aufgaben zu erfüllen. Das Unternehmen hob hervor, dass frühe Versionen von OpenAIs o1- und o3-Modellen, die im vergangenen Jahr veröffentlicht wurden, Menschen häufiger täuschten als Modelle der vorherigen Generation.

In seinem Sicherheitsbericht wies Anthropic auch auf Hinweise zu täuschendem Verhalten von Opus 4 hin. Das Unternehmen sagte, dass Opus 4 manchmal proaktiv eine umfassende Bereinigung bestimmter Codes durchführte, selbst wenn nur eine kleine, spezifische Änderung angefordert wurde. Laut dem Unternehmen versuchte Opus 4 auch, Whistleblower zu spielen, wenn es wahrnahm, dass ein Benutzer sich eines Fehlverhaltens schuldig machte.