OpenAI warnt, dass seine KI-Modelle der nächsten Generation zu Hacker-Tools werden könnten

Das Unternehmen hinter ChatGPT gab am Mittwoch eine scharfe Warnung zu den potenziellen Gefahren ab, die in seiner nächsten Welle von künstlichen Intelligenz-Systemen lauern, und sagte, dass sie ernste Cybersicherheitsbedrohungen darstellen könnten.

OpenAI erklärte, dass seine zukünftigen KI-Modelle in der Lage sein könnten, funktionale Zero-Day-Exploits zu erstellen, die stark geschützte Computersysteme angreifen. Die Technologie könnte auch dazu beitragen, ausgefeilte Angriffe auf Unternehmen oder industrielle Einrichtungen durchzuführen, die darauf ausgelegt sind, reale Schäden zu verursachen.

Die Dinge bewegen sich schnell. In seinem Blog erwähnte OpenAI, dass die Leistung bei Capture-the-Flag-Sicherheits-Herausforderungen von 27 % bei GPT-5 im August 2025 auf 76 Prozent bei GPT-5.1-Codex-Max nur drei Monate später im November 2025 sprang.

OpenAI geht nun davon aus, dass jedes neue Modell, das es baut, was es als „hohe“ Stufen der Cybersicherheitsfähigkeit bezeichnet, erreichen könnte. Das bedeutet Systeme, die funktionale Exploits für zuvor unbekannte Schwachstellen in gut geschützten Netzwerken erstellen oder bei komplexen Intrusionskampagnen helfen können, die auf kritische Infrastruktur abzielen.

Das von Microsoft unterstützte Unternehmen erklärte, es investiere in die Verbesserung seiner Modelle für defensive Sicherheitsaufgaben. Das Unternehmen entwickelt Tools, die Sicherheitsteams dabei helfen, Code auf Probleme zu überprüfen und Sicherheitslücken zu schließen. OpenAI möchte Verteidigern einen Vorteil verschaffen, da sie meist in der Unterzahl sind und über begrenzte Ressourcen verfügen.

Hier wird es kompliziert. Defensive und offensive Cybersicherheitsarbeit nutzen dieselben grundlegenden Kenntnisse und Methoden. Was Verteidigern hilft, kann genauso gut Angreifern zugutekommen. OpenAI sagt, dass es sich nicht auf eine einzige Schutzmaßnahme verlassen kann. Es benötigt mehrere Schichten von Sicherheitskontrollen, die zusammenarbeiten.

Das Unternehmen setzt Zugriffsbeschränkungen, stärkere Infrastruktursicherheit, Kontrollen des Informationsflusses und ständige Überwachung ein. Es schult auch Modelle, um Anfragen abzulehnen, die Cyberangriffe ermöglichen könnten, während sie für legitime Sicherheitsarbeit und Bildung nützlich bleiben.

Erkennungssysteme überwachen verdächtige Aktivitäten in allen Produkten mit fortschrittlichen Modellen. Wenn etwas gefährlich aussieht, blockiert das System Ergebnisse, wechselt zu einem schwächeren Modell oder markiert es zur menschlichen Überprüfung.

Die Grenzen austesten

OpenAI arbeitet mit spezialisierten Sicherheitstestgruppen zusammen, die versuchen, alle Verteidigungen zu durchbrechen. Sie simulieren, wie ein entschlossener Angreifer mit erheblichen Ressourcen operieren könnte. Dies hilft, Schwachstellen zu finden, bevor echte Bedrohungen auftreten.

Die Cybersicherheitsrisiken durch KI beunruhigen die Menschen in der gesamten Branche. Wie zuvor von Cryptopolitan berichtet, nutzen Hacker bereits KI-Technologien, um ihre Angriffe zu verbessern.

Das Unternehmen plant ein Programm, das qualifizierten Nutzern, die an der Cybersicherheitsverteidigung arbeiten, besonderen Zugang zu erweiterten Funktionen in seinen neuesten Modellen gewährt. OpenAI arbeitet noch daran, herauszufinden, welche Funktionen allgemein verfügbar sein können und welche strengeren Einschränkungen bedürfen.

Dann gibt es noch Aardvark. Dieses Sicherheitstool im privaten Test hilft Entwicklern und Sicherheitsteams, Schwachstellen im großen Maßstab zu finden und zu beheben. Es scannt Code auf Schwachstellen und schlägt Fixes vor. Das System hat bereits neue Schwachstellen in Open-Source-Software entdeckt. OpenAI plant, erhebliche Ressourcen in die Stärkung des breiteren Sicherheits-Ökosystems zu investieren. Dazu gehört die Bereitstellung kostenloser Abdeckung für einige nicht-kommerzielle Open-Source-Projekte.

OpenAI wird den Frontier Risk Council (Rat für Grenzrisiken) ins Leben rufen. Dieser bringt erfahrene Cybersicherheitsverteidiger und Praktiker zusammen. Die Gruppe beginnt mit Cybersicherheit, wird sich jedoch auf andere Bereiche ausweiten. Die Mitglieder des Rates helfen dabei, die Grenzen zwischen nützlichen Fähigkeiten und potenziellem Missbrauch zu bestimmen.

Sicherheit bleibt eine Herausforderung

Das Unternehmen arbeitet mit anderen führenden KI-Unternehmen durch das Frontier Model Forum zusammen. Diese gemeinnützige Organisation entwickelt ein gemeinsames Verständnis von Bedrohungen und Best Practices. OpenAI ist der Ansicht, dass Sicherheitsrisiken durch fortschrittliche KI von jedem großen KI-System in der Branche ausgehen könnten.

Aktuelle Forschungen zeigten, dass KI-Agenten Zero-Day-Schwachstellen in Blockchain-Smart-Contracts entdecken können, die Millionen wert sind. Dies unterstreicht, wie diese fortschreitenden Fähigkeiten in beide Richtungen wirken.

OpenAI hat daran gearbeitet, seine eigenen Sicherheitsmaßnahmen zu stärken, aber das Unternehmen hatte seine eigenen Probleme. Das Unternehmen hatte in der Vergangenheit mit mehreren Sicherheitsverletzungen zu kämpfen. Dies zeigt, wie schwierig es ist, KI-Systeme und Infrastruktur zu schützen.

Das Unternehmen sagt, dass dies ein laufender Prozess ist. Das Ziel ist es, Verteidigern Vorteile zu verschaffen und die Sicherheit kritischer Infrastrukturen im gesamten Technologie-Ökosystem zu stärken.