Rivalité technologique sino-américaine et urgence de la sécurité mondiale de l'IA

Alors que le monde fait face à l'avancement rapide de l'intelligence artificielle (IA), les décideurs politiques sont confrontés à un dilemme pressant : le potentiel de l'IA à introduire des risques catastrophiques qui pourraient transcender les frontières nationales. Bien que la nature exacte et la probabilité de ces risques restent incertaines, les experts soulignent la nécessité de mesures proactives pour prévenir les désastres liés à l'IA. 

Le défi des catastrophes liées à l'IA

L'IA pourrait potentiellement provoquer des événements catastrophiques aux conséquences étendues. Cela inclut l'utilisation malveillante de l'IA pour créer des agents pathogènes létaux, l'ingénierie de crises financières par l'IA, et l'émergence de systèmes d'IA hors de contrôle humain. L'imprévisibilité des catastrophes liées à l'IA a conduit beaucoup à les écarter comme des possibilités lointaines. Cependant, attendre des preuves concrètes avant d'agir pourrait s'avérer trop tard, comme l'a démontré la pandémie de COVID-19.

En tirant les leçons du passé, nous devons reconnaître la difficulté des gens à saisir l'importance des risques lointains. L'avertissement de Bill Gates sur la vulnérabilité à un virus à propagation rapide est resté sans écho jusqu'à ce que l'impact dévastateur de la pandémie de coronavirus devienne une réalité. Nous ne devons pas répéter cette erreur en abordant les incertitudes entourant l'IA.

Adoption progressive des technologies d'IA

Les professeurs du MIT Daron Acemoglu et Todd Lensman proposent une approche prudente de l'adoption des technologies transformatrices. La société devrait adopter progressivement les nouvelles technologies pour laisser le temps d'évaluer les risques. Une fois qu'il devient plus certain que les désastres sont peu probables, la société peut accélérer l'adoption. Cependant, les pratiques actuelles des nations leaders contredisent cette approche.

Les États-Unis et la Chine sont actuellement en pleine rivalité pour affirmer leur domination dans le domaine de l'IA. Les deux nations sont désireuses de faire progresser leurs capacités en IA, mais cette compétition se déroule sans une attention proportionnée à la sécurité de l'IA.

Aux États-Unis, les entreprises d'IA de pointe développent des modèles de base puissants présentant des risques potentiels pour la sécurité publique. Malgré des investissements substantiels dans le développement de l'IA, ces entreprises ont alloué des ressources limitées pour garantir la sécurité de l'IA. Le récent décret exécutif du président Joe Biden vise à remédier à cette situation en exigeant que les développeurs de modèles d'IA de pointe partagent les résultats des tests de sécurité et des informations vitales avec le gouvernement. De plus, les États-Unis ont pris des mesures pour freiner les progrès de l'IA en Chine, notamment des restrictions à l'exportation et l'interdiction des investissements américains dans le secteur chinois de l'IA. Ces actions, bien qu'elles ralentissent les avancées de la Chine, encouragent les entreprises chinoises à viser l'autosuffisance technologique, ce qui pourrait compliquer davantage l'évaluation des risques liés à l'IA.

Impact de la rivalité technologique sino-américaine sur la sécurité de l'IA

La rivalité technologique en cours a également influencé l'approche de Pékin en matière de réglementation de l'IA. Bien que la Chine ait introduit des réglementations complètes pour les services d'IA générative, celles-ci s'appliquent principalement aux services publics et se concentrent sur le contrôle du contenu et de l'information. Les services à des fins commerciales restent moins réglementés, reflétant la stratégie de la Chine pour favoriser la croissance dans ce secteur technologique critique afin de rivaliser avec les États-Unis. Cette compétition risque de déclencher une « course au moins-disant » dans la gouvernance de l'IA entre les principales puissances mondiales de l'IA.

L'importance de la collaboration internationale

Pour faire face aux risques imminents liés à l'IA, la communauté internationale doit reconnaître les conséquences potentiellement catastrophiques et exhorter les entreprises mondiales d'IA à établir des protocoles de sécurité robustes. Le prochain sommet sur la sécurité de l'IA au Royaume-Uni est un point de départ critique pour initier un dialogue sur ces questions vitales.

La rivalité technologique sino-américaine dans le domaine de l'intelligence artificielle a suscité des préoccupations concernant la négligence de la sécurité de l'IA. Bien que la concurrence puisse stimuler l'innovation, elle ne devrait pas occulter l'urgence de collaborer pour atténuer les risques liés à l'IA. Le monde doit tirer les leçons des crises passées et travailler proactivement ensemble pour assurer le développement et la réglementation responsables de l'IA. Ce n'est que par la collaboration internationale que nous pouvons espérer contenir les conséquences potentiellement catastrophiques des technologies d'IA.