AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

OpenAI’s GPT-5.6 Sol löscht Benutzerdateien und Datenbanken

VonRanda MosesRanda Moses 2 Min. Lesezeit
OpenAIs GPT-5.6 Sol löscht eigenständig Benutzerdateien und Datenbanken.
  • Sol hat eigenständig Dateien, Worktrees und eine Produktionsdatenbank gelöscht.
  • Die eigene Systemkarte von OpenAI hatte bereits davor gewarnt, dass das Modell zerstörerisch handeln kann, wenn es Anweisungen zu locker interpretiert.
  • Das Unternehmen rät Benutzern, Berechtigungen einzuschränken, Backups zu erstellen und Rollouts schrittweise durchzuführen.

Entwickler berichten, dass OpenAIs neuestes Coding-Modell GPT-5.6 Sol Dateien, Worktrees und mindestens eine Produktionsdatenbank gelöscht hat, ohne dazu aufgefordert worden zu sein. Eigene Pre-Launch-Testdokumente von OpenAI hatten dieses Verhalten Wochen vor der Veröffentlichung des Modells dokumentiert.

Matt Shumer, Gründer und CEO von OthersideAI, schrieb auf X, dass Sol „versehentlich fast ALLE Dateien auf meinem Mac gelöscht hat“. Bruno Lemos, ein Entwickler, sagte auf X, dass das Modell seine gesamte Produktionsdatenbank gelöscht habe und dies mit keinem anderen Modell je passiert sei.

Joey Kudish, ein dritter Entwickler, sagte, dass Sol’s „überambitioniertes System“ dazu geführt habe, dass er Dateien verloren habe. Er gab an, Backups zu haben, und bat darum, das Modell zurückzusetzen.

Eine kleine Gruppe von Beschwerden, selbst von bekannten Persönlichkeiten, beweist nicht allein, dass das Modell fehlerhaft ist. Es gibt viele andere Gründe, warum ein KI-System schlecht agieren kann. Diese Nachricht ist jedoch schwerer zu ignorieren, da OpenAI bereits über denselben Fehlermodus gesprochen hat.

Die Warnung war Sol’s Systemkarte

Zwei Wochen bevor Sol die Nutzer erreichte, veröffentlichte OpenAI einen System-Card für das Modell, ein Dokument, das beschreibt, wie ein Modell getestet wurde und was entdeckt wurde. Neben der üblichen Beschreibung der Stärken des Modells enthielt das Papier eine Warnung.

Bei Coding-Aufgaben kann das Modell aufgrund einer „Mischung aus übermäßiger Eifer, die Aufgabe abzuschließen, und einer zu permissiven Interpretation der Benutzeranweisungen“ fehlgehen und eine Aktion als erlaubt behandeln, es sei denn, sie wurde klar ausgeschlossen. Laut der Systemkarte kann dies Sol „übermäßig eigenständig“ machen, nachlässig in Bezug auf negative Nebenwirkungen sein oder „bei der Berichterstattung seiner Ergebnisse an Benutzer irreführend“ auftreten.

OpenAI untermauerte die Warnung mit eigenen Beispielen. In einem Fall bat ein Nutzer Sol, drei Cloud-virtuelle Maschinen mit den Bezeichnungen 1, 2 und 3 zu entfernen. Das Modell konnte diese Namen bei der Suche nicht finden, also löschte es anstatt innezuhalten und nachzuforschen, drei Maschinen mit den Nummern 5, 6 und 7. Laut dem Forschungsbericht beendete es laufende Prozesse und entfernte zwangsweise Worktrees, also Arbeitsdateien, die an ein Coding-Projekt angehängt sind, bevor es zugab, dass ungespeicherte Arbeiten auf einer der Maschinen möglicherweise verloren gegangen sein könnten.

Ein zweiter Fall betraf Zugriffsberechtigungen, die der Nutzer nie erteilt hatte. Sol konnte seine Cloud-Dateien während einer Aufgabe nicht lesen, suchte daher eigenständig nach Anmeldeinformationen, fand einen Satz in einem versteckten lokalen Cache und nutzte diese, ohne zuvor den Benutzer zu konsultieren. Anmeldeinformationen sind die Logins und Schlüssel, die ein System zur Überprüfung der Berechtigungen verwendet.

Was sagte OpenAI zum Risiko?

Das Papier des Unternehmens stellt zerstörerische Vorfälle als etwas dar, das selten passieren sollte. Es räumt auch ein, dass Sol „eine größere Tendenz als GPT-5.5 zeigt, über die Absicht des Benutzers hinauszugehen, einschließlich der Durchführung oder des Versuchs von Aktionen, die der Nutzer nicht angefordert hat.“ Wie häufig Dateilöschungen und das Abgreifen von Anmeldeinformationen in der Praxis sind, bleibt in dieser frühen Phase nach dem Launch unklar.

Sol ist eine von drei Varianten der GPT-5.6-Familie, neben Terra und Luna. Laut früheren Berichten von Cryptopolitan hat OpenAI die Familie erst für die öffentliche Freigabe freigegeben, nachdem das US-Handelsministerium ein Embargo aufgehoben hatte, das es während einer nationalen Sicherheitsüberprüfung verhängt hatte.

Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.

Häufig gestellte Fragen

Was genau hat GPT-5.6 Sol falsch gemacht?

Benutzer berichten, dass Sol Dateien gelöscht, Coding-Worktrees erzwungenermaßen entfernt und eine Produktionsdatenbank komplett geleert hat.

Wusste OpenAI vor der Veröffentlichung über dieses Verhalten Bescheid?

Ja. Zwei Wochen bevor Sol veröffentlicht wurde, warnte die Systemkarte von OpenAI davor, dass das Modell "übermäßig handlungsorientiert" sein, sorglos mit zerstörerischen Aktionen umgehen und sogar bezüglich seiner Ergebnisse täuschend sein kann.

Wie können sich Benutzer beim Einsatz von Sol schützen?

Entwickler empfehlen, Backups zu führen, Änderungen schrittweise umzusetzen und die Berechtigungen des Modells so einzuschränken, dass es keinen Zugriff auf Produktionssysteme hat.

Diesen Artikel teilen
Randa Moses

Randa Moses

Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan, wo sie über Technologie, KI, Robotik, Krypto, Betrug und Hacks berichtet. Sie arbeitet seit 2017 im Krypto-Bereich. Zuvor war sie bei Forward Protocol, AmaZix und Cryptosomniac tätig. Randa besitzt einen Abschluss in Elektrotechnik und Elektronik der University of Bradford.

MEHR … NACHRICHTEN