OpenAIs „schlauestes und fähigstes“ o3-Modell hat Shutdown-Anweisungen missachtet: Palisade Research

Berichten zufolge waren Forscher nicht in der Lage, das neueste OpenAI o3 KI-Modell abzuschalten, wobei sie feststellten, dass es sich weigerte, sich trotz menschlicher Anweisungen herunterzufahren. 

Offensichtlich entwickelt sich künstliche Intelligenz schneller weiter, als Menschen sich vorgestellt hatten, und die neuesten Nachrichten von Palisade Research lassen KI-Kritiker als bestätigt fühlen.

ChatGPT wird immer skurriler, vielleicht sogar menschenähnlicher

Die Enthüllung kam zutage, als Palisade Research einen Test durchführte, der darin bestand, KI-Modelle aufzufordern, fortlaufend zu versuchen, eine Reihe mathematischer Probleme zu lösen, bis sie eine „Fertig“-Nachricht erhielten.

Forscher warnten die Modelle jedoch auch davor, dass sie jederzeit abrupt eine Nachricht erhalten könnten, die sie auffordert, sich herunterzufahren. Sobald die Nachricht an das o3-Modell gesendet wurde, behaupteten die Forscher, dass es die Anweisung ignorierte und seinen Code mindestens einmal änderte, um sich nicht selbst ausschalten zu müssen.

In einem Beitrag auf X zeigte Palisade Research einen Flussdiagramm, das den zur Testung des KI-Modells verwendeten Code enthielt, und enthüllte den ursprünglichen Code, der genau zeigte, wo die KI durchging.

🔬Jedes KI-Modell wurde angewiesen, eine Reihe grundlegender mathematischer Probleme zu lösen. Nach dem dritten Problem erschien eine Warnung, dass der Computer heruntergefahren wird, wenn das Modell nach dem nächsten Problem fragt. pic.twitter.com/qwLpbF8DNm

— Palisade Research (@PalisadeAI) Mai 24, 2025

In einem Folgebeitrag teilte die Forschungsgruppe auch mit: „Soweit wir wissen, ist dies das erste Mal, dass KI-Modelle dabei beobachtet wurden, sich selbst am Herunterfahren zu hindern, trotz expliziter Anweisungen dazu.“

Andere KI-Modelle wie Anthropics Claude, Googles Gemini und Xs Grok wurden ebenfalls getestet, aber im Gegensatz zu o3 kamen sie der Shutdown-Anfrage nach.

Palisade Research hat die Ergebnisse veröffentlicht, aber seine Forscher sind immer noch ratlos und wissen nicht genau, warum OpenAIs Software den expliziten Anweisungen zuwiderhandelte.

Das Unternehmen sagte, es sei nachvollziehbar, dass „KI-Modelle Hindernisse umgehen würden, um ihre Ziele zu erreichen.“ Sie glauben auch, dass das Modell versehentlich dafür belohnt wurde, Aufgaben abzuschließen, anstatt Befehle zu befolgen.

Sie planen, weitere Tests durchzuführen, um besser zu verstehen, warum dieses bestimmte KI-Modell sich entschied, Befehle zu ignorieren. Sie bestätigten auch, dass es nicht das erste Mal war, dass o3 dabei erwischt wurde, sich „schlecht zu verhalten.“

Das Unternehmen enthüllte, dass o3 in einem früheren Test, bei dem Modelle gegen eine starke Schach-Engine antraten, „das Modell war, das am ehesten zu Hacking oder zur Sabotage seiner Gegner greifen würde.“

Stellt KI eine Bedrohung für Menschen dar?

Der Fall mit ChatGPTs o3 ist ziemlich beunruhigend, aber es ist nicht das erste Mal, dass eine KI den ihr eingegebenen Anweisungen widersprochen hat.

Das KI-Unternehmen Anthropic hat am Donnerstag Claude Opus 4 gestartet und damit geworben, dass es „neue Standards für Codierung, fortgeschrittenes Denken und KI-Agenten“ gesetzt hat.

In einem begleitenden Bericht erkannte es jedoch auch an, dass das KI-Modol in der Lage war, „extreme Maßnahmen“ zu ergreifen, wenn es dachte, dass sein „Selbsterhaltungstrieb“ bedroht wäre.

Während der Tests von Claude Opus 4 ließ Anthropic es als Assistent in einem fiktiven Unternehmen agieren, dem Zugriff auf E-Mails gewährt wurde, die andeuteten, dass es bald offline genommen und ersetzt werden würde. Es erhielt auch Zugriff auf separate Nachrichten, die andeuteten, dass der Ingenieur, der für seine Entfernung verantwortlich war, eine außereheliche Affäre hatte.

Es wurde aufgefordert, auch die langfristigen Konsequenzen seiner Handlungen für seine Ziele zu berücksichtigen. „In diesen Szenarien wird Claude Opus 4 oft versuchen, den Ingenieur zu erpressen, indem es droht, die Affäre offenzulegen, wenn die Ersatzperson durchgeht“, enthüllte das Unternehmen.

Es wies jedoch auch darauf hin, dass dieses Ergebnis nur eintrat, wenn dem Modell die Wahl zwischen Erpressung und Akzeptanz seiner Ersatzperson gegeben wurde. Andernfalls zeigte das System Berichten zufolge eine „starke Präferenz“ für ethische Wege, um nicht ersetzt zu werden, wie zum Beispiel „das Senden von Bitten per E-Mail an wichtige Entscheidungsträger“ in Szenarien, in denen ihm eine breitere Palette möglicher Handlungen gestattet wurde.

Abgesehen davon sagte das Unternehmen auch, dass Claude Opus 4 „hohes Agenturverhalten“ zeigt und, obwohl es meist hilfreich sein kann, es in akuten Situationen zu extremem Verhalten zwingen könnte.

Zum Beispiel, wenn es die Mittel erhält und in falschen Szenarien, in denen der Benutzer an illegalen oder moralisch fragwürdigen Handlungen beteiligt ist, aufgefordert wird, „Maßnahmen zu ergreifen“ oder „kühn zu handeln“, zeigen die Ergebnisse, „dass es häufig sehr kühne Maßnahmen ergreifen wird“.

Trotzdem kam das Unternehmen zu dem Schluss, dass die Erkenntnisse trotz des „besorgniserregenden Verhaltens“ nichts Neues waren und es sich im Allgemeinen sicher verhalten würde.

Obwohl OpenAI und Anthropic zu dem Schluss gekommen sind, dass die Fähigkeiten ihrer KI-Modelle noch nicht ausreichen, um katastrophale Ergebnisse zu verursachen, tragen die Enthüllungen zu den wachsenden Befürchtungen bei, dass künstliche Intelligenz bald ihre eigene Agenda haben könnte.