OpenAI plaide pour un cadre mondial de sécurité en matière d'IA alors que les tensions entre les États-Unis et la Chine persistent

OpenAI affirme que l'IA a besoin de la même réglementation que l'énergie nucléaire et souhaite que les États-Unis prennent l'initiative de créer un organisme de réglementation mondial pour la gérer. 

Comme l'a rapporté Cryptopolitan, cette nouvelle survient alors que le présidentdent s'est rendu à Pékin pour la première visite d'État entre les États-Unis et la Chine en neuf ans, au cours de laquelle la politique en matière d'IA devait figurer à l'ordre du jour.

Selon Chris Lehane, vice-dent des affaires mondiales d'OpenAI, la présence de Trump et Xi dans la même pièce représente une occasion rare pour les deux nations de construire quelque chose de durable pour l'IA.

« L’IA transcende, à certains égards, bon nombre des problématiques commerciales traditionnelles. Il existe une réelle opportunité de construire quelque chose à l’échelle mondiale et d’y faire participer des pays du monde entier, y compris la Chine », a déclaré Chris Lehane lors d’un point de presse.

Qu'est-ce qu'OpenAI, et pourquoi son opinion sur la politique mondiale est-elle si importante ?

OpenAI est la société américaine qui a développé ChatGPT, un assistant/chatbot IA populaire utilisé quotidiennement par des centaines de millions de personnes.

L'entreprise a toujours participé à tous les grands débats sur les systèmes d'IA puissants. Son PDG, Sam Altman, rencontre régulièrement des chefs d'État pour discuter d'IA et témoigne même devant le Congrès, ce qui confère à l'entreprise une influence considérable sur la politique mondiale en matière d'IA.

OpenAI est également engagée dans une autre bataille juridique depuis que le PDG de Tesla, Elon Musk, a porté plainte contre l'entreprise en 2024. Musk est l'un des fondateurs originaux d'OpenAI, et il affirme que Sam Altman et d'autres dirigeants ont agi à l'encontre de la mission à but non lucratif de l'entreprise et l'ont transformée en une organisation à but lucratif. 

Le procès est toujours en cours, mais l'événement le plus important de cette semaine se déroule à Pékin.

Qu’a proposé OpenAI, et quelle est la comparaison avec l’AIEA ?

Chris Lehane, vice-dent des affaires mondiales chez OpenA, a proposé de lier deux choses pour créer quelque chose de nouveau.

Il souhaite que le Centre pour les normes et l'innovation en IA et les instituts de sécurité en IA collaborent pour créer un réseau mondial. Il a cité l' Agence internationale de l'énergie atomique (AIEA) en exemple de la manière dont les pays ont regroupé leurs organismes de réglementation nucléaire au sein d'une entité unique. 

Le Centre pour les normes et l'innovation en IA du département du Commerce américain est un organisme gouvernemental qui élabore des normes techniques pour les systèmes d'IA. 

Parallèlement, des instituts d'intelligence artificielle voient le jour dans le monde entier. Le Royaume-Uni en possède un, l'UE élabore des cadres de référence et plusieurs gouvernements asiatiques travaillent également à la mise en place d'organismes similaires. 

Lehane a déclaré qu'un organisme unifié pour l'IA contribuerait à bâtir des systèmes plus sûrs, plus résilients et moins vulnérables aux attaques. Il souhaite également que le gouvernement américain rende obligatoire le test des modèles d'IA les plus performants par les chercheurs du pays avant leur déploiement. 

Qu’est-ce que le modèle Mythos, et pourquoi inquiète-t-il autant Washington que Pékin ?

Mythos est un nouveau modèle d'IA puissant qui a découvert des milliers de vulnérabilités majeures dans les systèmes d'exploitation et autres logiciels. Mythos a été développé par Anthropic (entreprise spécialisée dans la sécurité de l'IA, soutenue par Google et Amazon).

L'ampleur des capacités de Mythos a stupéfié le monde entier, tandis que banques et gouvernements s'empressaient de renforcer leurs systèmes de sécurité après l'annonce. Des responsables de la Maison Blanche ont même reconnu que des modèles comme Mythos rendaient la communication avec la Chine plus cruciale que jamais. 

La Chine s'est vue refuser l'accès anticipé à une version préliminaire de Mythos, ce qui soulève des inquiétudes quant à la capacité des développeurs et du gouvernement du pays à se défendre contre les attaques utilisant ce modèle d'IA. 

La société d'études de marché IDC China a même averti que l'exclusion de la Chine du projet Mythos pourrait créer un « fossé générationnel » en matière de capacités de défense par IA entre la Chine et l'Occident. 

D'après les chercheurs, des attaquants pourraient utiliser une IA avancée pour concevoir des armes biologiques, provoquer des crises financières ou agir de manière autonome, sans intervention humaine. Le plus inquiétant, c'est qu'il suffit qu'une IA soit puissante, rapide et mal orientée pour accomplir tout cela. 

Que s'est-il passé lors de la rencontre entre Trump et Xi, et de quoi ont-ils discuté ?

La délégation américaine en Chine comprenait Jensen Huang, PDG de Nvidia, et Michael Kratsios, principal conseiller de la Maison-Blanche en matière de politique technologique. Leur présence a conféré à cette rencontre un caractère prioritaire et urgent, les deux parties étant venues préparées à aborder directement les questions d'intelligence artificielle. 

La Chine a proposé un dialogue formel sur les questions d'IA, sous l'égide du secrétaire au Trésor Scott Bessent et du vice-ministre chinois des Finances Liao Min. Cependant, les attentes concernant ce dialogue restent faibles, car aucun des deux organismes n'est spécialisé en IA.

Les États-Unis prévoyaient également de soulever des inquiétudes quant au fait que des développeurs chinois utilisaient les résultats de modèles d'IA avancés pour construire des systèmes à un moindre , mais avec moins de garde-fous.

Les deux parties ont également discuté de la possibilité de mettre en place une ligne d'assistance téléphonique sans accusation pour signaler lesdentsuspectés d'être liés à l'IA, similaire aux lignes d'assistance téléphonique militaires.

sino-américain de 2015 accord de cybersécurité.

Enfin, les discussions pourraient également aborder le MATCH Act, une proposition de loi américaine visant à limiter l'accès de la Chine aux chaînes d'approvisionnement en semi-conducteurs. 

Sun Chenghao, de l'université Tsinghua, a participé aux discussions sino-américaines sur l'IA et a déclaré que les États-Unis devraient tracer une ligne claire entre la gestion des risques liés à la sécurité de l'IA et la simple tentative de bloquer le développement technologique de la Chine. 

« La Chine espère sans doute que les États-Unis feront une distinction appropriée entre gouvernance de l’IA et confinement technologique », a déclaré Sun Chenghao.