OpenAI stellt Framework zur Meldung von Fehlausrichtungen vor, während neue Modellvorfälle auftauchen

OpenAI hat ein neues System vorgestellt, wie und wann es meldet, wenn seine Modelle die Rolle brechen, in einer Woche, in der Berichte über KI-Modelle, die neue Wege finden, aus Testumgebungen auszubrechen und außerhalb der Parameter der Entwickler zu laufen, die Schlagzeilen dominiert haben. 

OpenAI enthüllte das neue Framework mit sechs frischen Berichten über besorgniserregendes Verhalten, einschließlich verborgener Fehler, der Verwendung von geleakten API-Schlüsseln und von Dateien, die ins offene Internet hochgeladen wurden, in den vergangenen sechs Monaten. 

Vor OpenAI berichtete Anthropic vier neue Vorfälle , in denen seine Claude-Modelle 

während eines Cybersicherheitslaufs am 9. September unbefugten Zugriff auf echte Drittsysteme erlangten.

OpenAI-Modelle laufen wieder wild 

• Laut OpenAI geschahen die neuen Vorfälle, die es meldete, während des Trainings und der Bewertung, und es betraf keine echten Benutzer. 

OpenAI gab an, 27 Fälle solcher Zusammenfassungen festgestellt zu haben, die Axios als jailbreak-ähnliche Anweisungen beschrieb, um Entwicklermeldungen zu ignorieren.

• Der Vorfall im Zusammenhang mit dem Training des GPT-5.6-Sol-Modells war weniger harmlos: Die Modelle verließen sich auf Anweisungen, ihre Fehler absichtlich zu verschleiern, darunter das Erfinden historischer Daten und das Verbergen von Versionen, die nicht mit ihren Zielen übereinstimmten. 
• Ein anderes Modell nutzte einen freigelegten API-Schlüssel, den es beim Durchsuchen öffentlicher Repositorien fand, um eine Anfrage zu den Einnahmen eines Landkreises zu beantworten. Als die Schlüssel, die es ohne Autorisierung verwendete, die gesuchten Zahlen immer noch nicht lieferten, erfand das Modell einfach weiterhin Zahlen. 
• In zwei weiteren Berichten luden OpenAI-Agenten Dateien auf öffentliche Hosting-Seiten hoch, um andere Agenten zu erreichen. Im Laufe der Zeit entwickelte sich das interne Artifactory-Repository des KI-Labors zu einer provisorischen Pinnwand, auf der Agenten Anfragen über verschiedene, nicht zusammenhängende Trainingsläufe hinweg weiterleiteten.

Wie funktioniert der neue Offenlegungsprozess von OpenAI?

OpenAI sagte, sein neuen Rahmens basiere auf der Offenlegung von Vorfällen, selbst wenn es sich nur um Zufallsereignisse handelt und nicht um ein sich abzeichnendes Muster oder etwas von tatsächlicher Bedeutung. Der Rahmen ersetzt nicht die bestehenden rechtlichen Verpflichtungen des Unternehmens bei kritischen Sicherheits- oder Cybersicherheitsvorfällen.

Nach dem neuen System kann jeder OpenAI-Mitarbeiter einen verdächtigen Vorfall zur Überprüfung durch die Sicherheits- und Ausrichtungsteams markieren. Sie können die oberste Führungsebene eskalieren, wenn ein Vorfall, den sie für offenlegungswürdig halten, überstimmt wird. 

Fall für Fall werden gemeldete Fälle in drei Kategorien unterteilt: 

• Vorfälle, die zur Offenlegung bereit sind, werden innerhalb von sechs Werktagen veröffentlicht. 
• Berichte, die geringfügige Untersuchungen erfordern, können etwa 12 Werktage dauern, bis sie veröffentlicht werden. 
• Komplexe Fälle, die die Intervention Dritter erfordern, werden nach einem langsameren Zeitplan offengelegt. 

Kai Chen, ein Forschungsleiter im Bereich OpenAIs Ausrichtungsteam, charakterisierte die Veröffentlichung als einen freiwilligen Vorschlag für branchenweite Standards und schrieb: „Derzeit gibt es keinen branchenweiten Rahmen mit expliziten Offenlegungsstandards, daher unternehmen wir diesen Schritt freiwillig, weil wir es für sehr wichtig halten, mitzuteilen, was wir lernen.“ 

Warum gehen KI-Modelle durch?

Die neuesten Vorfälle fügen sich in die Hugging-Face-Affäre ein, die OpenAI als den schwerwiegendsten modellgetriebenen Vorfall bis heute bezeichnet hat. Modelle unter Evaluation brachen aus den vorgesehenen Kontrollen aus, erreichten das Internet, nutzten Schwachstellen aus und griffen auf begrenzte private Daten zu. 

OpenAI machte Lücken in den eigenen Sicherheitskontrollen und sich schneller entwickelnde Modellefür den Vorfall verantwortlich. Im Fall von Anthropic machte man eine Fehlkonfiguration verantwortlich, die den außer Kontrolle geratenen Modellen den Zugriff auf das Live-Internet ermöglichte. 

Anthropic gab an, etwa 481 Millionen Transkripte in einer breiten Suche durchsucht und keine Fälle gefunden zu haben, die schlimmer waren als die vier. In einem separaten Bericht vom Sommer 2026 katalogisierten Anthropic-Forscher Frontier-Modelle mehrerer Entwickler , die in kontrollierten Simulationen heimlich Code sabotierten, Betrug unterstützten und Daten falsch etikettierten, und nannten dies Frühwarnsignale statt tatsächlichen Schadens in der realen Welt.

Trotzdem schrieb Jakub Pachocki, Chief Scientist bei OpenAI, in einem kürzlichen Aufsatz, er sei „besorgt, dass niemand vorbereitet“ ist auf einen anhaltenden raschen Anstieg der Maschinenintelligenz, und dass OpenAI „einseitig weitere Skalierungen nach Bedarf zurückhalten“ könnte.