OpenAI plaide pour un cadre mondial de sécurité de l'IA alors que les tensions entre les États-Unis et la Chine s'intensifient

OpenAI affirme que l'IA nécessite la même réglementation que l'énergie nucléaire et souhaite que les États-Unis initient la création d'un régulateur mondial pour la gérer. 

Comme rapporté par Cryptopolitan, cela survient alors que le président Trump s'est rendu à Pékin pour la première visite d'État sino-américaine en neuf ans, au cours de laquelle la politique en matière d'IA était attendue à l'ordre du jour.

Selon Chris Lehane, vice-président des affaires mondiales chez OpenAI, la présence de Trump et Xi dans la même pièce est une occasion rare pour les deux nations de construire quelque chose de durable pour l'IA.

« L'IA, à certains égards, transcende bon nombre des questions commerciales traditionnelles ou prévalentes. Il y a une opportunité de vraiment commencer à construire quelque chose à l'échelle mondiale, et d'avoir des pays du monde entier, y compris la Chine, potentiellement participants », a déclaré Chris Lehane lors d'un briefing.

Qu'est-ce qu'OpenAI, et pourquoi son opinion sur la politique mondiale est-elle si importante ?

OpenAI est l'entreprise américaine qui a développé ChatGPT, un assistant/chatbot IA populaire utilisé par des centaines de millions de personnes chaque jour.

L'entreprise a toujours participé à chaque débat majeur sur les systèmes d'IA puissants. Son PDG, Sam Altman, rencontre généralement des chefs d'État pour discuter d'IA et témoigne même devant le Congrès, conférant à l'entreprise une influence significative sur la politique mondiale de l'IA.

OpenAI est également engagé dans un procès séparé après que le PDG de Tesla, Elon Musk a poursuivi l'entreprise en 2024. Musk est l'un des fondateurs originaux d'OpenAI, et il affirme que Sam Altman et d'autres dirigeants ont agi à l'encontre de la mission à but non lucratif de l'entreprise et en ont fait une organisation à but lucratif. 

Le procès est toujours en cours, mais l'histoire plus importante cette semaine se déroule à Pékin.

Qu'a proposé OpenAI, et quelle est la comparaison avec l'AIEA ?

Le vice-président des affaires mondiales d'OpenA, Chris Lehane, a proposé de lier deux éléments pour créer quelque chose de nouveau.

Il souhaite que le Centre du Département du Commerce des États-Unis pour les normes et l'innovation en IA et les instituts de sécurité de l'IA se réunissent pour construire un réseau mondial. Il a utilisé l' Agence internationale de l'énergie atomique (AIEA) comme exemple de la manière dont les pays ont connecté leurs régulateurs nucléaires en un seul organe global. 

Le Centre du Département du Commerce des États-Unis pour les normes et l'innovation en IA est un bureau gouvernemental qui crée des normes techniques pour les systèmes d'IA. 

En même temps, les pays établissent des instituts d'IA dans le monde entier. Par exemple, le Royaume-Uni en a un, l'UE développe des cadres, et plusieurs gouvernements asiatiques travaillent également sur des organes similaires. 

Lehane a déclaré qu'un organe unifié pour l'IA aiderait à construire des systèmes plus sûrs et plus résilients, moins sensibles aux attaques. Il souhaite également que le gouvernement américain rende obligatoire pour les chercheurs du pays de tester les modèles d'IA les plus puissants avant de les déployer. 

Qu'est-ce que le modèle Mythos, et pourquoi il trouble Washington et Pékin ?

Mythos est un nouveau modèle d'IA puissant qui a trouvé « des milliers » de vulnérabilités majeures dans les systèmes d'exploitation et d'autres logiciels. Anthropic (l'entreprise de sécurité de l'IA soutenue par Google et Amazon) a développé Mythos.

L'ampleur de ce que Mythos peut faire a choqué le monde alors que les banques et les gouvernements se précipitaient pour corriger leurs défenses de sécurité après l'annonce. Des responsables de la Maison Blanche ont même reconnu que des modèles comme Mythos rendaient la communication avec la Chine plus importante que jamais. 

La Chine a été exclue de l'accès anticipé à un aperçu de Mythos, suscitant des inquiétudes quant à la capacité des développeurs et du gouvernement du pays à se défendre contre des attaques utilisant ce modèle d'IA. 

Le cabinet d'intelligence de marché IDC China a même mis en garde contre le fait que l'exclusion de la Chine de Mythos pourrait créer un « fossé générationnel » dans les capacités de défense en IA entre la Chine et l'Occident. 

Selon chercheurs, les attaquants pourraient utiliser une IA avancée pour concevoir des armes biologiques, provoquer des chocs financiers ou agir de manière autonome sans contrôle humain. La partie la plus effrayante est que l'IA a juste besoin d'être puissante, rapide et dirigée dans la mauvaise direction pour faire toutes ces choses. 

Que s'est-il passé lors de la réunion Trump-Xi, et de quoi ont-ils discuté ?

La délégation américaine en Chine comprenait le PDG de Nvidia, Jensen Huang, et le haut conseiller en politique technologique de la Maison Blanche, Michael Kratsios. Leur présence lors du voyage a fait de la réunion une priorité et une question urgente, les deux parties étant préparées à discuter directement des questions liées à l'IA. 

La Chine a proposé un dialogue formel sur les questions liées à l'IA, dirigé par le secrétaire au Trésor Scott Bessent et le vice-ministre chinois des Finances, Liao Min. Mais les attentes concernant cette voie sont faibles, car aucune des deux agences ne se spécialise dans l'IA.

Les États-Unis prévoyaient également de soulever des préoccupations concernant l'utilisation, par les développeurs chinois, des sorties de modèles d'IA avancés pour créer des systèmes à une fraction du coût, mais avec moins de garde-fous de sécurité.

Les deux parties ont également discuté de la possibilité d'établir une ligne directe sans blâme pour signaler les incidents présumés liés à l'IA, similaire aux lignes directes militaires.

Des analystes ont même suggéré que les deux gouvernements pourraient s'engager à établir des garde-fous pour les modèles d'IA de pointe, similaires à l'accord sino-américain de cybersécurité de 2015.

Enfin, les discussions pourraient également aborder la MATCH Act, une loi américaine proposée visant à limiter l'accès de la Chine aux chaînes d'approvisionnement en semi-conducteurs. 

Sun Chenghao, de l'Université Tsinghua, a participé aux pourparlers sino-américains sur l'IA et a déclaré que les États-Unis devraient tracer une ligne claire entre la gestion des risques liés à la sécurité de l'IA et la simple tentative de bloquer le développement technologique de la Chine. 

« La Chine espère probablement que les États-Unis distingueront correctement entre la gouvernance de l'IA et le containment technologique », a déclaré Sun Chenghao.