OpenAI intensifie la sécurité pour protéger la propriété intellectuelle contre les menaces d'espionnage étranger chinois

OpenAI a revu ses mesures de sécurité pour se protéger contre les menaces étrangères. L'entreprise d'intelligence artificielle de 300 milliards de dollars, connue mondialement pour des produits comme ChatGPT, a déployé une vaste révision de la sécurité qui inclut des contrôles d'accès plus stricts, une vérification accrue des employés et des garanties physiques.

Bien que l'entreprise ait nié l'affirmation selon laquelle ses actions sont une réponse à sa concurrence, OpenAI a renforcé ses procédures de sécurité après un incident en janvier impliquant la startup chinoise DeepSeek.

OpenAI réorganise la sécurité

OpenAI a considérablement augmenté ses mesures de sécurité internes au cours des derniers mois pour protéger sa propriété intellectuelle contre l'espionnage étranger, en particulier de la part de la Chine. L'entreprise a commencé à mettre en œuvre des protocoles plus stricts l'année dernière, mais ces efforts ont gagné en urgence renouvelée après le lancement de DeepSeek en janvier.

OpenAI soupçonne l'entreprise rivale d'avoir utilisé la « distillation » pour développer et lancer un produit concurrent. La distillation est une technique qui consiste à entraîner un nouveau modèle pour imiter le comportement d'un autre.

« L'épisode a conduit OpenAI à être beaucoup plus rigoureux », a déclaré une source proche de l'équipe de sécurité. Depuis lors, l'entreprise a agressivement développé ses opérations de cybersécurité et resserré le contrôle sur l'accès aux recherches sensibles, aux données des modèles et à l'infrastructure.

Jusqu'à présent, DeepSeek n'a pas répondu aux allégations.

L'incident DeepSeek a également déclenché un resserrement interne généralisé chez OpenAI. De nouvelles politiques, connues en interne sous le nom de « tenting de l'information », sont désormais utilisées pour déterminer comment les données sensibles sont accessibles et partagées.

Seul un petit cercle de membres du personnel peut accéder aux projets de recherche de haut niveau, et ceux impliqués dans certains développements doivent confirmer que les autres avec qui ils interagissent font également partie de la même « tente ».

Cette approche prudente a été mise en œuvre lors du développement du modèle de nouvelle génération d'OpenAI, désigné en interne sous le nom de « Strawberry ». Le personnel a été instruit de ne pas discuter du projet dans les espaces de bureau ouverts à moins d'être certain que leurs collègues étaient officiellement autorisés à en faire partie.

Cette secrecy a causé des frictions internes, un employé la décrivant comme « très serrée », déclarant : « vous aviez soit tout, soit rien. »

Au niveau du système, OpenAI stocke désormais une grande partie de sa technologie propriétaire dans des environnements isolés et hors ligne. Cette infrastructure air-gapped sépare les systèmes critiques des réseaux plus larges et d'Internet public, réduisant le risque d'infiltration à distance.

La sécurité physique a également été améliorée, avec un accès biométrique par empreinte digitale requis pour certaines salles du bureau de San Francisco de l'entreprise.

Pour empêcher davantage la fuite des paramètres clés qui régissent la façon dont les modèles d'OpenAI répondent aux invites des utilisateurs, l'entreprise a appliqué une stricte « politique d'egress par défaut refusée ». Cela signifie que les systèmes sont bloqués de se connecter à Internet sauf approbation spécifique.

La direction de l'IA est devenue un champ de bataille États-Unis-Chine

Il y a une compétition implacable entre les États-Unis et la Chine pour la leadership dans les technologies émergentes, en particulier l'intelligence artificielle.

Washington a imposé une série de contrôles à l'exportation conçus pour empêcher Pékin d'acquérir des semi-conducteurs avancés et des technologies connexes. En même temps, les agences de renseignement américaines ont averti que les acteurs étrangers ont intensifié leurs efforts pour voler des données sensibles aux entreprises technologiques américaines.

L'escalade des menaces d'espionnage a poussé plusieurs grandes entreprises de la Silicon Valley à adopter des contrôles plus stricts lors de l'embauche de nouveaux employés, OpenAI ne faisant pas exception. Les entreprises d'IA et de la technologie ont commencé à évaluer plus sérieusement les risques liés aux menaces internes depuis 2023.

En octobre dernier, OpenAI a embauché Dane Stuckey comme son nouveau directeur de la sécurité de l'information. Stuckey, qui occupait précédemment le même rôle chez Palantir, apporte une approche axée sur la sécurité nationale à la stratégie de défense de l'organisation.

Stuckey travaille en étroite collaboration avec Matt Knight, vice-président des produits de sécurité d'OpenAI, qui dirige actuellement les efforts visant à utiliser les propres grands modèles de langage de l'entreprise comme outils de défense contre les cybermenaces.

De plus, OpenAI a ajouté l'ancien général de l'armée américaine à la retraite, Paul Nakasone, à son conseil d'administration l'année dernière. Nakasone était le chef de l'U.S. Cyber Command et de la National Security Agency (NSA). Il apporte une compréhension de haut niveau des menaces en cybersécurité et des stratégies de défense à l'équipe dirigeante d'OpenAI.

Malgré le caractère sérieux de ces changements, OpenAI a déclaré que la refonte de la sécurité ne constituait pas une réponse directe à un incident unique.

Un porte-parole de l'entreprise a déclaré au Financial Times que les améliorations faisaient partie des investissements de l'entreprise dans la confidentialité et la sécurité, alors qu'elle vise à diriger l'industrie.

L'accent accru mis sur l'espionnage étranger, en particulier en provenance de Chine, a suscité des inquiétudes quant à l'alimentation de courants xénophobes sous-jacents dans l'industrie. Plusieurs insiders et observateurs ont exprimé leurs craintes que les politiques de sécurité globales n'aliènent involontairement les employés d'origine asiatique ou ne conduisent à un examen minutieux excessif basé sur la nationalité plutôt que sur des indicateurs de menace réels.