Le Royaume-Uni appelle à un consensus mondial sur l'étiquetage des « dommages catastrophiques » de l'IA au Sommet sur la sécurité de l'IA

Dans un mouvement novateur, le Premier ministre britannique Rishi Sunak mène une initiative pour classifier l'intelligence artificielle comme capable de « dommages catastrophiques » lors du prochain Sommet sur la sécurité de l'IA organisé par le Royaume-Uni. Le sommet, prévu pour le mois prochain à Bletchley Park, vise à établir une position mondiale unifiée sur les risques posés par la technologie d'IA en rapide évolution. Le projet de communiqué, diffusé aux participants et obtenu par Bloomberg, outline des préoccupations spécifiques concernant l'impact de l'IA sur la cybersécurité et la biotechnologie. Alors que la communauté internationale fait face aux opportunités transformatrices présentées par l'IA, Sunak cherche à positionner le Royaume-Uni comme un leader dans la définition des approches réglementaires et l'établissement de « garde-fous » industriels.

Préoccupations et sauvegardes

Au cœur de la poussée du Royaume-Uni se trouve la reconnaissance du potentiel de « dommages significatifs, voire catastrophiques » découlant des capacités les plus dangereuses des modèles d'IA. Le projet de communiqué, daté du 16 octobre, souligne le besoin d'une position internationale conjointe sur les risques de sécurité spécifiques associés à la fois à l'IA à usage général et à l'IA étroite. Des fonctionnaires, représentant 28 nations et une diversité de parties prenantes, sont prêts à délibérer sur la finalisation du communiqué d'ici le 25 octobre.

Le document met en évidence la nature duale de l'IA, reconnaissant ses opportunités transformatrices, en particulier dans les services publics tels que la santé, l'éducation, la science et les énergies propres. Une personne familière avec la question déclare que cet aspect sera un point focal prominent lors du sommet, mettant en lumière le potentiel positif que l'IA détient pour le progrès sociétal.

Mais, le projet souligne que les risques, en particulier à la « frontière » du développement de l'IA, nécessitent des métriques d'évaluation claires, des outils de test de sécurité et un renforcement des capacités du secteur public. Reconnaissant le besoin d'une approche équilibrée, le sommet vise à aborder à la fois les promesses et les défis de l'IA, garantissant que les avancées sont exploitées de manière responsable pour bénéficier à l'humanité.

Les dirigeants mondiaux sont censés faire écho à l’appel en faveur d’une transparence accrue des entreprises impliquées dans le développement de l’IA. Le projet de texte propose la création de critères d’évaluation clairs, d’outils de test de sécurité et le développement de capacités pertinentes dans le secteur public ainsi que de recherches scientifiques. Le document souligne que les risques en matière de sécurité émergent non seulement de l’IA à usage général, mais aussi de l’IA étroite spécifique qui pourrait présenter des capacités dangereuses.

Coordination mondiale et responsabilité dans les mesures de sécurité de l’IA

Alors que le Royaume-Uni prend les devants, le projet de texte et d’autres documents diffusés révèlent que la Commission européenne plaide pour un processus de collaboration internationale sur la sécurité de l’IA de pointe. Le bloc européen cherche une approche alignée avec sa propre législation sur l’IA, en se concentrant sur les risques de détournement à des fins de cyberattaques et sur le risque de perte de contrôle des systèmes avancés.

Les documents soulignent la responsabilité des développeurs travaillant sur des capacités d'IA puissantes et potentiellement dangereuses. Une forte emphasis est mis sur la garantie de la sécurité de ces capacités, avec les « acteurs pertinents » exhortés à fournir une transparence et une responsabilité appropriées au contexte sur les plans pour mesurer, surveiller et atténuer les dangers potentiels. Le Royaume-Uni prévoit de maintenir l'élan avec des réunions de suivi tous les six mois, dédiées au suivi des progrès dans la gestion des opportunités et des risques associés à l'IA.

Le projet de communiqué met l’accent sur la nécessité pour l’IA d’être conçue, développée, déployée et utilisée d’une manière qui privilégie le « bien commun » et qui s’aligne sur les principes d’une approche centrée sur l’humain, sûre, digne de confiance et responsable. Alors que la communauté internationale converge au parc de Bletchley, le monde observe pour voir si une position unifiée sur la sécurité de l’IA émergera, ouvrant la voie à un avenir de l’IA sûr et responsable.