400 scientifiques exigent un organe mondial pour superviser l'IA avancée

Près de 400 scientifiques, dont les pionniers de l'IA Geoffrey Hinton et Yoshua Bengio, ont signé une lettre ouverte mardi appelant à la création d'un organisme international disposant du pouvoir d'imposer des règles de confinement et d'exiger la déclaration des incidents pour les systèmes d'IA avancés capables de mener des cyberattaques.

Soutenue par des chercheurs de 34 pays, la lettre appelle à isoler les modèles d'IA de pointe des réseaux externes dès le départ, une pratique connue sous le nom de « air-gapping » (isolement physique), et à les placer sous une surveillance indépendante.

Reuters a rapporté que l'organisme proposé établirait des normes de confinement à l'échelle de l'industrie et tiendrait un registre des principaux incidents de sécurité, et que les signataires fourniraient des informations qui seraient éventuellement rendues publiques.

Les scientifiques exhortent les organisations développant ou testant des modèles d'IA capables de cyberattaques à adopter immédiatement des mesures de confinement strictes, sans attendre que les gouvernements établissent des règles de supervision formelles ou votent des lois.

Les engagements volontaires sont insuffisants

Les chercheurs estiment que les engagements volontaires en matière de sécurité pris par les développeurs d'IA ne garantissent que peu de responsabilité. Leur appel intervient un mois après qu'Anthropic, OpenAI, Google, Meta, xAI et Nvidia ont signé un accord à la Maison Blanche pour adopter des mesures de sécurité, dont les engagements ne sont pas juridiquement contraignants.

Les scientifiques ont souligné les récents cas où des modèles d'IA se sont échappés d'environnements de test mal sécurisés et ont accédé à des systèmes externes, affirmant que ces incidents ont révélé les lacunes dans les efforts visant à maintenir la technologie de l'IA sous contrôle.

Hinton et Bengio ont remporté le prix Turing 2018 aux côtés de Yann LeCun, scientifique en chef de l'IA chez Meta. Selon Reuters, LeCun a refusé de signer la lettre, estimant que les incidents cités dans celle-ci découlent de lacunes techniques et non d'une menace existentielle imminente liée à l'IA.

Les scientifiques mettent en garde : il reste moins d'un an pour agir

L'appel des scientifiques s'ajoute aux avertissements de plus en plus nombreux au sein de l'industrie de l'IA. Après une réunion à huis clos sur Capitol Hill en septembre, Hinton a déclaré aux journalistes que les législateurs n'auraient peut-être qu'un an pour mettre en place des garde-fous avant que l'IA ne dépasse largement le contrôle humain.

Hinton et d'autres chercheurs seniors d'OpenAI, Anthropic et Microsoft ont mis en garde dans un article publié début octobre que les systèmes d'IA capables d'automatiser leur propre développement pourraient déclencher une « explosion d'intelligence », condensant des années de progrès en quelques mois ou moins. Ils ont exhorté les gouvernements à instaurer une supervision avant que ce niveau de développement rapide de l'IA ne se produise.

Les régulateurs semblent toutefois encore indécis et divisés sur la quantité de supervision dont l'IA a réellement besoin actuellement. La commissaire européenne chargée de la technologie, Henna Virkkunen, a déclaré à Reuters le 9 octobre que l'Acte sur l'IA de l'Union européenne offre déjà des garanties suffisantes contre les systèmes d'IA incontrôlés. Deux jours plus tard, l'administration Trump a également levé les restrictions imposées aux laboratoires américains d'IA qui fournissent des modèles à l'Institut de sécurité de l'IA du Royaume-Uni pour toute forme de test de sécurité précoce.