OpenAI met en garde : ses futurs modèles d'IA pourraient devenir des outils pour les pirates

L'entreprise derrière ChatGPT a émis un avertissement sévère mercredi sur les dangers potentiels qui se cachent dans sa prochaine vague de systèmes d'intelligence artificielle, affirmant qu'ils pourraient présenter de graves menaces pour la cybersécurité.

OpenAI a déclaré que ses futurs modèles d'IA pourraient être capables de créer des exploits de type « zero-day » fonctionnels ciblant des systèmes informatiques fortement protégés. La technologie pourrait également aider à mener des attaques sophistiquées contre des entreprises ou des installations industrielles conçues pour causer des dommages dans le monde réel.

Les choses évoluent rapidement. Dans son blog, OpenAI a mentionné que les performances aux défis de sécurité de type « capture-the-flag » sont passées de 27 % sur GPT-5 en août 2025 à 76 % sur GPT-5.1-Codex-Max seulement trois mois plus tard, en novembre 2025.

OpenAI suppose désormais que chaque nouveau modèle qu'il construit pourrait atteindre ce qu'il appelle des niveaux de capacité de cybersécurité « élevés ». Cela signifie des systèmes capables de créer des exploits fonctionnels pour des vulnérabilités previously inconnues dans des réseaux bien protégés, ou d'aider à des campagnes d'intrusion complexes ciblant les infrastructures critiques.

L'entreprise soutenue par Microsoft a déclaré qu'elle investissait pour rendre ses modèles meilleurs dans le travail défensif de sécurité. L'entreprise construit des outils pour aider les équipes de sécurité à vérifier le code à la recherche de problèmes et à corriger les failles de sécurité. OpenAI veut donner un avantage aux défenseurs, car ils sont généralement en infériorité numérique et manquent de ressources.

Voici où les choses deviennent complexes. Le travail défensif et offensif en cybersécurité utilise les mêmes connaissances et méthodes de base. Ce qui aide les défenseurs pourrait tout aussi facilement aider les attaquants. OpenAI dit qu'elle ne peut pas compter sur une seule mesure de protection. Elle a besoin de couches de contrôles de sécurité fonctionnant ensemble.

L'entreprise utilise des restrictions d'accès, une sécurité d'infrastructure renforcée, des contrôles sur le flux d'informations et une surveillance constante. Elle forme également les modèles à refuser les demandes qui pourraient permettre des cyberattaques tout en les maintenant utiles pour le travail de sécurité légitime et l'éducation.

Les systèmes de détection surveillent les activités suspectes sur tous les produits en utilisant des modèles avancés. Lorsqu'une activité semble dangereuse, le système bloque les résultats, bascule vers un modèle plus faible ou la signale pour examen humain.

Tester les limites

OpenAI travaille avec des groupes spécialisés dans les tests de sécurité qui tentent de franchir toutes ses défenses. Ils simulent le fonctionnement d'un attaquant déterminé disposant de ressources importantes. Cela permet de trouver les points faibles avant que les vraies menaces ne le fassent.

Les risques de cybersécurité liés à l'IA inquiètent tout le secteur. Comme rapporté précédemment par Cryptopolitan, les pirates utilisent déjà des technologies IA pour améliorer leurs attaques.

L'entreprise prévoit un programme qui donnera aux utilisateurs qualifiés travaillant sur la défense de la cybersécurité un accès spécial aux capacités améliorées de ses modèles les plus récents. OpenAI travaille encore à déterminer quelles fonctionnalités peuvent être largement disponibles et lesquelles nécessitent des restrictions plus strictes.

Il y a ensuite Aardvark. Cet outil de sécurité en test privé aide les développeurs et les équipes de sécurité à trouver et corriger des vulnérabilités à grande échelle. Il analyse le code à la recherche de faiblesses et suggère des correctifs. Le système a déjà découvert de nouvelles vulnérabilités dans les logiciels open source. OpenAI prévoit d'allouer des ressources importantes au renforcement de l'écosystème de sécurité plus large. Cela inclut l'offre de couverture gratuite à certains projets open source non commerciaux.

OpenAI créera le Conseil des risques de la frontière (Frontier Risk Council). Cela rassemble des défenseurs et praticiens expérimentés en cybersécurité. Le groupe commence par la cybersécurité mais s'étendra à d'autres domaines. Les membres du Conseil aident à déterminer les limites entre les capacités utiles et la mauvaise utilisation potentielle.

La sécurité reste un défi

L'entreprise travaille avec d'autres grandes entreprises d'IA par l'intermédiaire du Forum des modèles de la frontière (Frontier Model Forum). Cette organisation à but non lucratif développe une compréhension partagée des menaces et des meilleures pratiques. OpenAI pense que les risques de sécurité liés aux IA avancées pourraient provenir de n'importe quel système IA majeur de l'industrie.

Des recherches récentes ont montré que les agents IA peuvent découvrir des vulnérabilités de type zero-day valant des millions dans les contrats intelligents blockchain. Cela met en lumière comment ces capacités croissantes ont deux tranchants.

OpenAI a travaillé à renforcer ses propres mesures de sécurité, mais l'entreprise a fait face à ses propres problèmes. L'entreprise a fait face à plusieurs brèches de sécurité par le passé. Cela montre à quel point il est difficile de protéger les systèmes IA et l'infrastructure.

L'entreprise déclare qu'il s'agit d'un travail en cours. L'objectif est de donner aux défenseurs des avantages et de renforcer la sécurité des infrastructures critiques dans tout l'écosystème technologique.