Rivalité technologique sino-américaine et urgence de la sécurité mondiale de l'IA

Face aux progrès fulgurants de l'intelligence artificielle (IA), les décideurs politiques sont confrontés à un dilemme pressant : le risque que l'IA engendre des catastrophes susceptibles de dépasser les frontières nationales. Si la nature exacte et la probabilité de ces risques demeurent incertaines, les experts insistent sur la nécessité de mesures proactives pour prévenir les désastres liés à l'IA. 

Le défi des catastrophes liées à l'IA

L'IA peut potentiellement engendrer des catastrophes aux conséquences considérables. Parmi celles-ci figurent l'utilisation malveillante de l'IA pour créer des agents pathogènes mortels, la manipulation de crises financières par l'IA et l'émergence de systèmes d'IA incontrôlables. L'imprévisibilité de ces catastrophes a conduit beaucoup à les considérer comme de simples possibilités. Cependant, attendre des preuves concrètes avant d'agir pourrait s'avérer fatal, comme l'a démontré la pandémie de COVID-19.

En tirant les leçons du passé, nous devons reconnaître la difficulté qu'ont les gens à saisir la gravité des risques, même lointains. L'avertissement de Bill Gates concernant la vulnérabilité face à un virus à propagation rapide est resté lettre morte jusqu'à ce que l'impact dévastateur de la pandémie de coronavirus devienne une réalité. Nous ne devons pas reproduire cette erreur face aux incertitudes qui entourent l'IA.

Adoption progressive des technologies d'IA

Les professeurs du MIT Daron Acemoglu et Todd Lensman proposent une approche prudente de l'adoption des technologies de rupture. La société devrait adopter progressivement les nouvelles technologies afin de laisser le temps d'évaluer les risques. Une fois la probabilité de catastrophes plus faible, l'adoption pourrait être accélérée. Cependant, les pratiques actuelles des grandes nations contredisent cette approche.

Les États-Unis et la Chine se livrent actuellement à une rivalité intense pour asseoir leur suprématie dans le domaine de l'IA. Si les deux nations souhaitent développer leurs capacités en la matière, cette compétition se déroule sans que la sécurité de l'IA ne soit prise en compte de manière équivalente.

Aux États-Unis, des entreprises de pointe en intelligence artificielle développent des modèles fondamentaux puissants, susceptibles de présenter des risques pour la sécurité publique. Malgré des investissements considérables dans le développement de l'IA, ces entreprises ont alloué des ressources limitées à la garantie de sa sécurité. Le récent décret dudent Joe Biden vise à remédier à cette situation en obligeant les développeurs de modèles d'IA de pointe à partager les résultats des tests de sécurité et les informations essentielles avec le gouvernement. Par ailleurs, les États-Unis ont pris des mesures pour freiner les progrès de la Chine en matière d'IA, notamment des restrictions à l'exportation et des interdictions d'investissement américain dans le secteur chinois de l'IA. Ces mesures, tout en ralentissant l'avancée de la Chine, incitent les entreprises chinoises à viser l'autosuffisance technologique, ce qui risque de complexifier davantage l'évaluation des risques liés à l'IA.

Impact de la rivalité technologique sino-américaine sur la sécurité de l'IA

La rivalité technologique actuelle a également influencé l'approche de Pékin en matière de réglementation de l'IA. Si la Chine a mis en place une réglementation complète pour les services d'IA générative, celle-ci s'applique principalement aux services publics et se concentre sur le contrôle des contenus et des informations. Les services à usage commercial restent moins réglementés, ce qui reflète la stratégie chinoise visant à stimuler la croissance de ce secteur technologique crucial pour concurrencer les États-Unis. Cette concurrence risque d'entraîner une course au moins-disant en matière de gouvernance de l'IA entre les principales puissances mondiales dans ce domaine.

L'importance de la collaboration internationale

Pour faire face aux risques imminents liés à l'IA, la communauté internationale doit prendre conscience des conséquences potentiellement catastrophiques et inciter les entreprises mondiales du secteur à mettre en place des protocoles de sécurité rigoureux. Le prochain sommet britannique sur la sécurité de l'IA constitue un point de départ essentiel pour engager un dialogue sur ces questions cruciales.

La rivalité technologique sino-américaine en matière d'intelligence artificielle a suscité des inquiétudes quant à la sécurité de cette technologie. Si la concurrence peut stimuler l'innovation, elle ne doit pas occulter l'urgence de collaborer pour atténuer les risques liés à l'IA. Le monde doit tirer les leçons des crises passées et œuvrer de concert pour garantir un développement et une réglementation responsables de l'IA. Seule une collaboration internationale permettra d'espérer contenir les conséquences potentiellement catastrophiques des technologies d'IA.