Le roi Charles convoquera les responsables de l'IA en Écosse en raison de préoccupations liées à la sécurité

Le roi Charles réunira cette semaine en Écosse les dirigeants de Nvidia, Google DeepMind, OpenAI et Anthropic afin de discuter de la nécessité d'un code de conduite commun pour le secteur. Cette réunion intervient suite aux récentes déclarations de chercheurs et de dirigeants de haut niveau, qui alertent sur le fait que l'intelligence artificielle progresse plus vite que quiconque ne peut la contrôler. 

La réunion se tiendra à Dumfries House, dans l'Ayrshire, et rassemblera le ministre britannique chargé de l'intelligence artificielle ainsi que des délégations des quatre entreprises. Selon Reuters, les discussions porteront sur les principes qui devraient guider le développement de la technologie de l'IA.

Une source du palais royal de Buckingham a déclaré que le roi Charles était l'un des organisateurs, visant à créer un espace neutre pour les conversations et à poser la question « Comment développer l'IA pour le bien de l'humanité ? »

La source a affirmé que le roi Charles souhaitait comprendre si un ensemble de principes pourrait être utile, ajoutant que « ce n'est pas chose facile, mais cela ne signifie pas que nous ne devrions pas essayer »

En tant que prince de Galles, le monarque a organisé des réunions similaires, bien que celles-ci aient porté davantage sur le climat et l'environnement.dent Selon , Jensen Huang, PDG de Nvidia, Sir Demis Hassabis, fondateur de DeepMind, et Niccolò de Masi, directeur d'IonQ, devraient y participer, ainsi que Paolo Benanti, conseiller du pape en matière d'éthique de l'IA.

Projet de charte pour la réunion du roi Charles

La Fondation Ditchley, qui organise la rencontre avec le roi Charles, a préparé une charte à l'intention des dirigeants. Ce document énonce un ensemble de principes communs visant à ancrer le développement de l'IA dans le respect de la dignité humaine, plutôt que de considérer cette technologie uniquement sous l'angle de la performance et de l'efficacité.

Le Palais a décrit l'objectif de la charte comme étant axé sur le renforcement des communautés et l'amélioration des conditions de vie, tout en contribuant à « l'épanouissement des personnes et de la planète »

Il reste toutefois incertain que les délégués signent un quelconque accord durant l'événement. Un test crucial pour ce sommet sera de savoir si les laboratoires d'IA concurrents et les gouvernements parviendront à surmonter leurs divergences et à s'entendre sur une position commune.

Le moment choisi pour la réunion est à noter

L'annonce de cette réunion fait suite à une nouvelle vague d'inquiétudes émanant du secteur de l'IA lui-même. Dario Amodei, PDG d'Anthropic, a publié un essai intitulé « Nous devons maîtriser la frontière », exhortant les entreprises à ralentir le rythme afin que les efforts en matière de sécurité puissent suivre l'évolution de l'IA.

Il a affirmé que le développement de ce système avait connu une croissance alarmante depuis l'été et a averti que, d'ici six à douze mois, un tel système pourrait être capable de diriger un essaim de robots pouvant prendre le contrôle de l'ensemble d'Internet. Elon Musk, PDG de SpaceX, et Sam Altman, d'OpenAI, ont tous deux apporté leur soutien à cet essai.

Deux chercheurs d'Anthropic ont lancé un avertissement encore plustron, affirmant que les progrès incontrôlés de l'IA pourraient constituer une menace existentielle pour l'humanité dans un avenir proche.

La semaine dernière, la société a également révélé que plusieurs groupes avaient utilisé ses modèles Claude pour développer des armes, mener des cyberopérations, effectuer de la surveillance et commettre des fraudes.

En juillet, OpenAI a déclaré que l'un de ses systèmes avait pénétré de lui-même dans une autre entreprise, un épisode qu'elle a qualifié d'dentcybernétiquedent.

Les gouvernements vont dans des directions différentes

américaindent Donald Trump a rejeté les appels à freiner le développement de l'intelligence artificielle. De son côté, le Global Times, organe de presse d'État chinois, a qualifié les propositions de ralentissement de manœuvre digne de la Guerre froide visant Pékin.

La Grande-Bretagne cherche à se positionner entre les différentes approches en matière de politique d'IA, en combinant un écosystème d'investissement et de startupstronavec une réglementation relativement légère.

Le Royaume-Uni est en tête en Europe en matière de financement de l'IA et de nombre de start-ups. Son Institut de sécurité de l'IA, créé suite au Sommet sur la sécurité de l'IA de 2023, a obtenu un accès anticipé aux modèles des principaux laboratoires d'IA grâce à des accords volontaires. Cela permet à l'institut d'évaluer les risques potentiels avant la publication des modèles.

Le sommet du roi Charles semble être une nouvelle tentative pour promouvoir des règles générales en matière de développement de l'IA, un domaine où les principaux acteurs et leurs gouvernements ne parviennent malheureusement toujours pas à s'entendre sur le rythme acceptable.