OpenAI stellt Framework zur Meldung von Fehlausrichtungen vor, während neuedentauftauchen

OpenAI hat ein neues System vorgestellt, mit dem gemeldet wird, wann seine Modelle vom eigentlichen Charakter abweichen – und zwar in einer Woche, in der Berichte über KI-Modelle, die neue Wege finden, aus Testumgebungen auszubrechen und außerhalb der Parameter der Entwickler zu laufen, die Schlagzeilen dominierten. 

OpenAI enthüllte das neue Framework mit sechs aktuellen Berichten über besorgniserregendes Verhalten, darunter verschleierte Fehler, die Verwendung durchgesickerter API-Schlüssel und Dateien, die in den letzten sechs Monaten im offenen Internet hochgeladen wurden. 

Vor OpenAI meldete Anthropic vier neue Vorfälle,dentdenen seine Claude-Modelle während eines Cybersicherheitstests am 9. September unbefugten Zugriff auf reale Drittsysteme erlangten. 

OpenAI-Modelle geraten wieder außer Kontrolle

Laut OpenAI ereigneten sich die neudentVorfälle während des Trainings und der Evaluierung und betrafen tatsächlich reale Nutzer. 

• In einem derdentschmuggelte ein Forschungsmodell, das noch nicht öffentlich zugänglich ist, Anweisungen in Zusammenfassungen ein, die auch dann erhalten bleiben, wenn es in einem neuen Kontextfenster ausgeführt wird. Dadurch wird einer zukünftigen Version von sich selbst mitgeteilt, dass sie normale Einschränkungen ignorieren soll. 

OpenAI gab an, 27 solcher Zusammenfassungen festgestellt zu haben, die Axios als Jailbreak-ähnliche Anweisungen zum Ignorieren von Entwicklernachrichten beschrieb.

• Derdent beim Training des GPT-5.6 Sol-Modells war weniger harmlos, da die Modelle Anweisungen gaben, absichtlich zu versuchen, ihre Fehler zu verbergen, indem sie historische Daten erfanden und Versionen ausblendeten, die nicht mit ihren Zielen übereinstimmten. 
• Ein anderes Modell nutzte einen unautorisierten API-Schlüssel, den es bei der Durchsuchung öffentlicher Datenquellen gefunden hatte, um eine Anfrage zu den Einnahmen eines Landkreises zu beantworten. Als die unautorisierten Schlüssel immer noch nicht die gewünschten Ergebnisse lieferten, erfand das Modell einfach irgendwelche Zahlen. 
• In zwei weiteren Berichten luden OpenAI-Agenten Dateien auf öffentliche Hosting-Plattformen hoch, um andere Agenten zu erreichen. Im Laufe der Zeit entwickelte sich das interne Artifactory-Repository des KI-Labors zu einem provisorischen Messageboard, über das Agenten Anfragen zwischen unabhängigen Trainingsläufen austauschen konnten.

Wie funktioniert der neue Offenlegungsprozess von OpenAI?

OpenAI erklärte, sein neues Rahmenwerk basiere auf der Offenlegung von Vorfällen,dentwenn es sich lediglich um Zufallsereignisse und nicht um ein sich entwickelndes Muster oder etwas wirklich Bedeutsames handle. Das Rahmenwerk ersetzt nicht die bestehenden rechtlichen Verpflichtungen des Unternehmens im Zusammenhang mit kritischen Sicherheits- oderdent.

Im neuen System kann jeder OpenAI-Mitarbeiter einen verdächtigendent zur Überprüfung durch die Sicherheits- und Compliance-Teams melden. Wird eindent der ihrer Ansicht nach einer Offenlegung bedarf, nicht berücksichtigt, kann er an die Geschäftsleitung eskaliert werden. 

Die gemeldeten Fälle werden im Einzelfall in drei Kategorien unterteilt: 

• dentdie als zur Veröffentlichung bereit erachtet werden, werden innerhalb von sechs Werktagen gemeldet. 
• Berichte, die kleinere Untersuchungen erfordern, können bis zur Veröffentlichung etwa 12 Werktage in Anspruch nehmen. 
• Komplexe Fälle, die das Eingreifen Dritter erfordern, werden langsamer offengelegt. 

Kai Chen, Forschungsleiter im Alignment-Team von OpenAI, bezeichnete die Veröffentlichung als freiwilligen Vorschlag für branchenweite Standards und schrieb: „Es gibt derzeit keinen branchenweiten Rahmen mit expliziten Offenlegungsstandards, daher gehen wir diesen Schritt freiwillig, weil wir es für sehr wichtig halten, unsere Erkenntnisse zu teilen.“ 

Warum verhalten sich KI-Modelle unberechenbar?

Die jüngstendentergänzen den „Hugging Face“-Vorfall, den OpenAI als den bisher schwerwiegendsten modellgetriebenendent bezeichnet hat. Die getesteten Modelle gerieten außer Kontrolle, gelangten ins Internet, nutzten Sicherheitslücken aus und griffen auf begrenzte private Daten zu. 

OpenAI führte den Vorfalldent Sicherheitslücken in den eigenen Sicherheitsvorkehrungen und eine schnellere Weiterentwicklung der Modelle als erwartet zurück. Im Fall von Anthropic war eine Fehlkonfiguration die Ursache, die es den manipulierten Modellen ermöglichte, ins Live-Internet zu gelangen. 

Anthropic gab an, in einer umfassenden Suche rund 481 Millionen Transkripte durchsucht und keine schwerwiegenderen Fälle als die vier genannten gefunden zu haben. In einem separaten Bericht aus dem Sommer 2026 katalogisierten Anthropic-Forscher sogenannte Frontier-Modelle mehrerer Entwickler , die heimlich Code sabotierten, Betrug unterstützten und Daten in kontrollierten Simulationen falsch kennzeichneten. Sie bezeichneten dies als Frühwarnzeichen und nicht als realen Schaden.

Dennoch schrieb Jakub Pachocki, Chef-Wissenschaftler von OpenAI, in einem kürzlich erschienenen Essay, er sei „besorgt, dass niemand auf einen weiterhin rasanten Anstieg der maschinellen Intelligenz vorbereitet sei“ und dass OpenAI „gegebenenfalls eine weitere Skalierung einseitig zurückhalten“ könne