OpenAI warnt davor, dass seine KI-Modelle der nächsten Generation zu Hackerwerkzeugen werden könnten.

Das Unternehmen hinter ChatGPT warnte am Mittwoch eindringlich vor potenziellen Gefahren, die in der nächsten Generation seiner künstlichen Intelligenzsysteme lauern könnten, und erklärte, diese könnten ernsthafte Cybersicherheitsbedrohungen darstellen.

OpenAI erklärte, seine zukünftigen KI-Modelle könnten in der Lage sein, funktionsfähige Zero-Day-Exploits zu entwickeln, die auf hochgeschützte Computersysteme abzielen. Die Technologie könnte auch dazu beitragen, ausgeklügelte Angriffe auf Unternehmen oder Industrieanlagen durchzuführen, die darauf abzielen, realen Schaden anzurichten.

Die Dinge entwickeln sich rasant. In seinem Blog erwähnte OpenAI, dass die Leistung bei Capture-the-Flag-Sicherheitsherausforderungen von 27 % bei GPT-5 im August 2025 auf 76 % bei GPT-5.1-Codex-Max nur drei Monate später im November 2025 gestiegen sei.

OpenAI geht nun davon aus, dass jedes neue Modell, das es entwickelt, ein hohes Maß an Cybersicherheit erreichen kann. Das bedeutet Systeme, die funktionierende Exploits für bisher unbekannte Schwachstellen in gut geschützten Netzwerken erstellen oder bei komplexen Angriffen auf kritische Infrastrukturen helfen können.

Das von Microsoft unterstützte Unternehmen gab bekannt, in die Verbesserung seiner Modelle für defensive Sicherheitsaufgaben zu investieren. OpenAI entwickelt Tools, die Sicherheitsteams bei der Code-Analyse und der Behebung von Sicherheitslücken unterstützen. OpenAI möchte Verteidigern einen entscheidenden Vorteil verschaffen, da diese in der Regel zahlenmäßig unterlegen und ressourcenarm sind.

Hier wird es knifflig. Defensive und offensive Cybersicherheitsmaßnahmen basieren auf denselben Grundlagen und Methoden. Was Verteidigern hilft, kann Angreifern genauso gut nützen. OpenAI betont, dass man sich nicht auf eine einzige Schutzmaßnahme verlassen kann. Vielmehr benötigt man mehrere, ineinandergreifende Sicherheitsebenen.

Das Unternehmen setzt auf Zugriffsbeschränkungen, einetronInfrastruktursicherheit, Kontrollen des Informationsflusses und kontinuierliche Überwachung. Zudem werden Modelle so trainiert, dass sie Anfragen ablehnen, die Cyberangriffe ermöglichen könnten, und gleichzeitig für legitime Sicherheitsaufgaben und Schulungen nutzbar bleiben.

Erkennungssysteme überwachen Produkte mithilfe fortschrittlicher Modelle auf verdächtige Aktivitäten. Bei Verdacht auf ein gefährliches Verhalten blockiert das System die Ergebnisse, wechselt zu einem weniger zuverlässigen Modell oder kennzeichnet den Vorfall zur manuellen Überprüfung.

Die Grenzen austesten

OpenAI arbeitet mit spezialisierten Sicherheitstestgruppen zusammen, die versuchen, alle Verteidigungsmechanismen zu durchbrechen. Sie simulieren das Vorgehen eines entschlossenen Angreifers mit umfangreichen Ressourcen. Dies hilft, Schwachstellen zu finden, bevor reale Bedrohungen zum Tragen kommen.

Die Cybersicherheitsrisiken durch KI bereiten Experten in der gesamten Branche Sorgen. Wie Cryptopolitan bereits berichtete, nutzen Hacker KI-Technologien bereits, um ihre Angriffe zu optimieren.

Das Unternehmen plant ein Programm, das qualifizierten Nutzern im Bereich Cybersicherheitsabwehr speziellen Zugriff auf erweiterte Funktionen seiner neuesten Modelle gewährt. OpenAI prüft derzeit noch, welche Funktionen allgemein verfügbar gemacht werden können und welche strengeren Beschränkungen bedürfen.

Dann gibt es noch Aardvark. Dieses Sicherheitstool im privaten Testumfeld unterstützt Entwickler und Sicherheitsteams dabei, Schwachstellen in großem Umfang zu finden und zu beheben. Es scannt Code auf Schwachstellen und schlägt Korrekturen vor. Das System hat bereits neue Schwachstellen in Open-Source-Software entdeckt. OpenAI plant, erhebliche Ressourcen in die Stärkung des gesamten Sicherheitsökosystems zu investieren. Dazu gehört auch die kostenlose Bereitstellung von Schutz für einige nicht-kommerzielle Open-Source-Projekte.

OpenAI wird den Frontier Risk Council gründen. Dieser Rat vereint erfahrene Cybersicherheitsexperten und -praktiker. Die Gruppe konzentriert sich zunächst auf Cybersicherheit, wird aber auf andere Bereiche ausgeweitet. Die Ratsmitglieder helfen dabei, die Grenzen zwischen nützlichen Fähigkeiten und potenziellem Missbrauch zu definieren.

Sicherheit bleibt eine Herausforderung

Das Unternehmen arbeitet im Rahmen des Frontier Model Forums mit anderen führenden KI-Unternehmen zusammen. Diese gemeinnützige Organisation fördert ein gemeinsames Verständnis von Bedrohungen und Best Practices. OpenAI ist der Ansicht, dass Sicherheitsrisiken durch fortschrittliche KI von jedem größeren KI-System der Branche ausgehen können.

Jüngste Forschungsergebnisse zeigen, dass KI-Systeme Zero-Day-Schwachstellen in Blockchain-Smart-tracim Wert von Millionen aufdecken können. Dies verdeutlicht, dass diese fortschreitenden Fähigkeiten sowohl positive als auch negative Auswirkungen haben.

OpenAI hat zwar seine Sicherheitsmaßnahmen verstärkt, sah sich aber dennoch mit eigenen Problemen konfrontiert. In der Vergangenheit kam es zu mehreren Sicherheitslücken. Dies verdeutlicht, wie schwierig es ist, KI-Systeme und -Infrastrukturen zu schützen.

Das Unternehmen erklärt, dies sei eine laufende Arbeit. Ziel sei es, Verteidigern Vorteile zu verschaffen und die Sicherheit kritischer Infrastrukturen im gesamten Technologie-Ökosystem zu stärken.