OpenAI renforce sa sécurité pour protéger sa propriété intellectuelle contre les menaces d'espionnage étranger chinoises

OpenAI a renforcé ses mesures de sécurité pour se prémunir contre les menaces étrangères. L'entreprise d'intelligence artificielle, valorisée à 300 milliards de dollars et mondialement connue pour des produits comme ChatGPT, a déployé une refonte complète de sa sécurité, comprenant des contrôles d'accès plus stricts, une vérification renforcée des antécédents des employés et des mesures de protection physiques.

Bien que la société ait nié que ses actions soient une réponse à la concurrence, OpenAI a renforcé ses procédures de sécurité après un incident survenudent janvier impliquant la start-up chinoise DeepSeek.

OpenAI refond sa sécurité

Ces derniers mois, OpenAI amaticrenforcé ses mesures de sécurité internes afin de protéger sa propriété intellectuelle contre l'espionnage étranger, notamment chinois. L'entreprise avait commencé à mettre en œuvre des protocoles plus stricts l'année dernière, mais ces efforts sont devenus encore plus urgents après le lancement de DeepSeek en janvier.

OpenAI soupçonne l'entreprise concurrente d'avoir utilisé la technique de « distillation » pour développer et commercialiser un produit similaire. La distillation est une technique qui consiste à entraîner un nouveau modèle à imiter le comportement d'un autre.

« Cet incident a incité OpenAI à renforcer considérablement ses mesures de sécurité », a déclaré une source proche de l'équipe de sécurité. Depuis, l'entreprise a considérablement développé ses opérations de cybersécurité et renforcé le contrôle d'accès aux données sensibles relatives à la recherche, aux modèles et à l'infrastructure.

Pour l'instant, DeepSeek n'a pas répondu aux allégations.

L'dent DeepSeek a également entraîné une répression interne généralisée chez OpenAI. De nouvelles politiques, connues en interne sous le nom de « gestion de l'information », sont désormais utilisées pour déterminer comment les données sensibles sont consultées et partagées.

Seul un petit cercle de membres du personnel peut accéder aux projets de recherche de pointe, et ceux qui participent à certains développements doivent confirmer que les autres personnes avec lesquelles ils interagissent font également partie du même « cercle »

Cette approche prudente a été mise en œuvre lors du développement du modèle de nouvelle génération d'OpenAI, appelé en interne « Strawberry ». Le personnel a reçu pour consigne de ne pas discuter du projet dans les espaces de bureaux ouverts à moins d'être certain que ses collègues étaient officiellement autorisés à y participer.

Ce secret a engendré des tensions internes, un employé le décrivant comme « très restrictif », ajoutant : « soit on avait tout, soit on n'avait rien. »

Au niveau système, OpenAI stocke désormais une grande partie de sa technologie propriétaire dans des environnements isolés et hors ligne. Cette infrastructure déconnectée du réseau physique isole les systèmes critiques des réseaux plus vastes et d'Internet, réduisant ainsi le risque d'infiltration à distance.

La sécurité physique a également été renforcée, avec un accès biométrique par empreinte digitale requis pour certaines pièces du bureau de l'entreprise à San Francisco.

Afin d'empêcher toute fuite des paramètres clés qui régissent la manière dont les modèles OpenAI répondent aux requêtes des utilisateurs, l'entreprise a mis en place une politique stricte de blocage par défaut des connexions sortantes. Cela signifie que les systèmes sont empêchés de se connecter à Internet, sauf autorisation spécifique.

Le leadership en matière d'IA est devenu un champ de bataille entre les États-Unis et la Chine

Les États-Unis et la Chine se livrent une concurrence acharnée pour le leadership dans les technologies émergentes, notamment l'intelligence artificielle.

Washington a imposé une série de contrôles à l'exportation visant à empêcher Pékin d'acquérir des semi-conducteurs de pointe et les technologies connexes. Parallèlement, les services de renseignement américains ont averti que des acteurs étrangers ont intensifié leurs efforts pour voler des données sensibles aux entreprises technologiques américaines.

L'escalade des menaces d'espionnage a incité plusieurs grandes entreprises de la Silicon Valley à renforcer la sélection de leurs nouveaux employés, OpenAI ne faisant pas exception. Les entreprises spécialisées en IA et en technologies évaluent plus sérieusement les risques de menaces internes depuis 2023.

En octobre dernier, OpenAI a recruté Dane Stuckey au poste de responsable de la sécurité des systèmes d'information. Stuckey, qui occupait auparavant les mêmes fonctions chez Palantir, apporte à la stratégie de défense de l'organisation une approche axée sur la sécurité nationale.

Stuckey travaille en étroite collaboration avec Matt Knight, vice-dent des produits de sécurité d'OpenAI, qui dirige actuellement les efforts visant à utiliser les grands modèles de langage de l'entreprise comme outils de défense contre les cybermenaces.

Par ailleurs, OpenAI a accueilli l'an dernier au sein de son conseil d'administration le général de l'armée américaine à la retraite Paul Nakasone. Ancien directeur du Cyber ​​Command américain et de la National Security Agency (NSA), Nakasone apporte à l'équipe dirigeante d'OpenAI une expertise pointue des menaces en matière de cybersécurité et des stratégies de défense.

Malgré la gravité de ces changements, OpenAI a déclaré que la refonte de la sécurité n'est pas une réponse directe à undentparticulier.

Un porte-parole de l'entreprise a déclaré au Financial Times que ces améliorations s'inscrivent dans le cadre des investissements de l'entreprise en matière de confidentialité et de sécurité, dans le but de devenir un chef de file du secteur.

L'attention accrue portée à l'espionnage étranger, notamment chinois, a suscité des inquiétudes quant à l'exacerbation des tensions xénophobes au sein du secteur. Plusieurs acteurs et observateurs du secteur craignent que ces politiques de sécurité radicales n'aliènent involontairement les employés d'origine asiatique ou n'entraînent un contrôle excessif fondé sur la nationalité plutôt que sur des indicateurs de menace réels.