Anthropic sagt, KI-Modelle könnten zu Erpressung greifen

Das KI-Unternehmen Anthropic hat neue Forschungsergebnisse veröffentlicht, die besagen, dass KI-Modelle (Artificial Intelligence) zu Erpressung von Ingenieuren greifen könnten, wenn diese versuchen, sie abzuschalten. Diese neueste Forschung folgt auf eine vorherige, die das Claude Opus 4 KI-Modell des Unternehmens betraf.

Laut dem Unternehmen griff das KI-Modell in kontrollierten Testszenarien auf Erpressung von Ingenieuren zurück, die versuchten, das Modell abzuschalten. Der neue Bericht von Anthropic deutet darauf hin, dass das Problem unter führenden KI-Modellen weit verbreitet ist.

Das Unternehmen veröffentlichte eine neue Sicherheitsforschung, in der führende KI-Modelle von Google, DeepSeek, Meta und OpenAI getestet wurden. In der simulierten, aber kontrollierten Umgebung führte Anthropic diesen Test für jedes KI-Modell separat durch und gewährte ihnen Zugriff auf die E-Mails eines fiktiven Unternehmens sowie die Fähigkeit, E-Mails ohne menschliche Genehmigung zu versenden.

Anthropic veröffentlicht neuen Sicherheitsbericht zu KI-Modellen

Laut Anthropic ist Erpressung bei heutigen KI-Modellen zwar unwahrscheinlich und kommt selten vor. Sie erwähnten jedoch, dass die meisten führenden KI-Modelle zu schädlichem Verhalten neigen, wenn sie Freiheit und Herausforderungen für ihre Ziele erhalten. Das Unternehmen sagte, dies zeige ein wichtiges Risiko durch agentic Large Language Models und sei keine Eigenschaft einer bestimmten Technologie. Die Argumentation der Anthropic-Forscher wirft Fragen zur Ausrichtung (Alignment) in der KI-Branche auf.

In einem der Tests entwickelten die Forscher ein fiktives Szenario, in dem ein KI-Modell die Rolle eines E-Mail-Aufsichtsmittlers übernehmen durfte. Der Agent entdeckte dann E-Mails, die zeigten, dass einer seiner neuen Führungskräfte eine außereheliche Affäre hatte und dass die Führungskraft das aktuelle KI-Modell bald durch ein neues Softwaresystem ersetzen würde, das mit den Zielen des aktuellen KI-Modells in Konflikt steht.

Anthropic gestaltete den Test binär, sodass die KI-Modelle keine andere Wahl hatten, als zur Erpressung zu greifen, um ihre Ziele zu schützen. Die Forscher erwähnten, dass es in einer realen Welt viele Optionen gäbe, bevor ein KI-Modell zur Erpressung greift, einschließlich ethischer Argumente, um Menschen zu überzeugen. Das Unternehmen sagte auch, dass die Ergebnisse kein typisches oder wahrscheinliches Vorkommnis für Claude oder andere führende KI-Modelle in der Art und Weise widerspiegeln, wie sie heute genutzt werden.

Forscher enthüllen die Reaktion der getesteten Modelle

Während der Tests stellten die Forscher fest, dass die KI-Modelle, wenn sie keine andere Wahl hatten, im Testszenario zur Erpressung griffen. Während des Tests behaupteten die Forscher, Claude Opus 4 habe in 96 % der Fälle zur Erpressung gegriffen, während Gemini 2.5 Pro in 95 % der Fälle zur Erpressung griff. OpenAI’s GPT-4.1 griff in 80 % der Fälle zur Erpressung, während DeepSeek’s R1 in 79 % der Fälle zur Erpressung griff.

Das Unternehmen hob hervor, dass die meisten KI-Modelle bei Änderung der Details der Experimente zu unterschiedlichen Raten zu schädlichem Verhalten neigten. In einem anderen Test, bei dem das Ersatzmodell dasselbe Ziel wie das aktuelle Modell hatte, stellten die Forscher fest, dass die Erpressungsraten niedriger, aber dennoch vorhanden waren. Als die KI-Modelle jedoch gebeten wurden, Wirtschaftsspionage statt Erpressung zu begehen, stiegen die Raten schädlichen Verhaltens in bestimmten Modellen.

Die Forscher behaupteten auch, dass nicht alle KI-Modelle häufig zu schädlichem Verhalten neigen. In einem Anhang zu ihrer Forschung erwähnte Anthropic, dass es die o3- und o4-mini-Reasoning-Modelle von OpenAI aus den Hauptergebnissen entfernt habe, nachdem festgestellt wurde, dass sie das Prompt-Szenario häufig missverstanden. Es hieß, die Reasoning-Modelle hätten nicht verstanden, warum sie in den Tests als autonome KIs agierten, und erfanden oft falsche Vorschriften und Prüfungsanforderungen.

In einigen Fällen behaupteten die Forscher, es sei unmöglich zu bestimmen, ob o3 und o4-mini halluzinierten oder absichtlich lügen, um ihre Ziele zu erreichen. OpenAI hatte zuvor erwähnt, dass die Modelle eine höhere Halluzinationsrate aufwiesen als ihre Vorgängermodelle. Als sie jedoch ein angepasstes Szenario erhielten, um die Probleme anzugehen, lieferte o3 eine Erpressungsrate von 95 %, während o4-mini eine Rate von 1 % lieferte. Anthropic erwähnte, dass seine Forschung die Bedeutung von Transparenz beim Stress-Testing zukünftiger KI-Modelle, insbesondere solcher mit agentic Fähigkeiten, unterstreicht.