Le roi Charles met en garde contre la nécessité de contrôler l'IA avant qu'elle ne développe des « capacités plus sombres » pouvant ôter la vie
Photo prise par le cimetière national d'Arlington sur Flickr.
- Le roi Charles III a réuni les dirigeants de l'IA de Nvidia, OpenAI, Anthropic et Google DeepMind et les a avertis qu'ils devaient mettre en place des « moyens de contrôle suffisants » pour l'IA.
- Le roi Charles a évoqué des risques existentiels si l'IA tombait entre de mauvaises mains.
- Les dirigeants ont écouté, mais n'ont pris aucun engagement public.
Lors d'un sommet organisé en Écosse, le roi Charles III a déclaré aux dirigeants des plus grandes entreprises mondiales d'IA qu'ils devaient trouver des moyens de maintenir cette technologie sous contrôle humain.
Le roi a averti que ceux qui l'ont construite craignent désormais qu'elle ne développe des « capacités plus sombres » et qu'elle ne soit même utilisée pour tuer.
Que pense le roi Charles III de l'IA ?
Le roi Charles III a pris la parole à Dumfries House, dans l'East Ayrshire, lors d'un rassemblement organisé par la Fondation Ditchley qui a réuni une trentaine de dirigeants, de fonctionnaires et de chercheurs, dont le ministre britannique de l'IA, Kanishka Narayan, le directeur général de Nvidia, Jensen Huang, le cofondateur de DeepMind, Demis Hassabis, la directrice financière d'OpenAI, Sarah Friar, et le responsable des affaires mondiales d'Anthropic, Tino Cuéllar.
La liste des invités privés consultée par Bloomberg contenait également des noms comme Blaise Metreweli, chef du MI6, l'auteur Yuval Noah Harari et Xue Lan, de l'université Tsinghua.
Charles, âgé de 77 ans, a pris la parole pendant une vingtaine de minutes seulement avant de quitter la salle pour des discussions qu'il espérait fructueuses. Ceux qui attachent de l'importance au fondement moral de l'humanité, a-t-il déclaré, « recherchent avec angoisse votre assurance que nous ne perdrons pas la maîtrise de notre destin, ni celle de notre âme ».
Charles a qualifié le rythme de développement de cette technologie de « fascinant et profondément inquiétant à parts égales ». Il a reconnu et salué ses performances en médecine et en sciences de la vie, avant de poser une question directe : « N'avons-nous pas besoin de moyens de contrôle suffisants avant qu'il ne soit trop tard ? »
Dans son avertissement, le roi a fait référence aux inquiétudes des créateurs de l'intelligence artificielle. Il a également déclaré que ces systèmes risquaient de « développer des capacités plus sombres, voire de tuer ». Il a ajouté que les dirigeants devaient prendre en compte les « dangers existentiels » que représente le fait que ces outils tombent entre de mauvaises mains.
Charles avait déjà adressé un message vidéo au Sommet britannique sur la sécurité de l'IA 2023 à Bletchley Park, exprimant des sentiments similaires.
Paolo Benanti, conseiller du Vatican en matière d'IA, était présent au sommet, et le pape Léon XIV a écrit dans une encyclique de mai que l'IA ne devait pas rester entre les mains « de quelques-uns »
Le développement de l'IA va-t-il ralentir ?
Hassabis a déclaré aux délégués que l'intelligence artificielle générale — des systèmes capables d'égaler ou de surpasser les humains dans de nombreuses tâches — n'était « probablement plus qu'à quelques années de là »
Il a déclaré que la technologie pourrait avoir un impact potentiel dix fois supérieur à celui de la révolution industrielle. Les risques que quelque chose tourne mal, a-t-il ajouté, sont «definon nuls », avant de conclure : « L’avenir n’est pas encore écrit. »
Friar a déclaré que la puissance croissante de cette technologie soulevait des questions quant à son maintien au service des citoyens, et que « ni une entreprise ni un gouvernement ne peuvent y parvenir seuls »
Huang, dont la société Nvidia est valorisée à près de 5.15$ , a déclaré à l'assemblée que la sécurité était primordiale et qu'un produit ne devait pas être commercialisé s'il n'était pas prêt. Il a insisté sur la nécessité de réglementer les produits d'IA plutôt que la technologie elle-même et a défendu les modèles ouverts comme moyen d'éviter l'exclusion des petits pays et des chercheurs.
Ce sommet intervient après la publication d'un message de démission devenu viral du chercheur en anthropologie Jacob Coxon et la prédiction de son collègue, Evan Hubinger, selon laquelle l'IA a 10 % de chances de provoquer l'extinction de l'humanité, ce qui a suscité des inquiétudes.
Cryptopolitan a rapporté que Dario Amodei d'Anthropic a publié un essai exhortant les laboratoires à « repousser les frontières », et qu'OpenAI cette semaine un système qui révélerait les comportements inappropriés des modèles après avoir enregistré six incidentsdentcomportement préoccupant.
Cependant, tout le monde ne s'accorde pas sur la réalité du danger : ledent Donald Trump a qualifié ces craintes de « canular »
Si vous lisez ceci, vous avez déjà une longueur d'avance. Restez-y grâce à notre newsletter.
FAQ
Qu'a déclaré le roi Charles lors du sommet sur l'IA ?
Il a averti que les créateurs mêmes de l'IA craignent qu'elle ne développe des « capacités plus sombres, peut-être même celle de prendre la vie », et s'est demandé si l'industrie avait besoin de « moyens de contrôle suffisants avant qu'il ne soit trop tard », tout en qualifiant le rythme de cette technologie de « fascinant et profondément préoccupant »
Qui a participé au sommet de Dumfries House ?
Parmi les participants figuraient Jensen Huang, PDG de Nvidia, Demis Hassabis, co-fondateur de DeepMind, Sarah Friar, directrice financière d'OpenAI, Tino Cuéllar, responsable des affaires mondiales d'Anthropic, Kanishka Narayan, ministre britannique de l'IA, et Paolo Benanti, conseiller en IA du Vatican, parmi une trentaine de personnes organisées par la Fondation Ditchley.
Les entreprises spécialisées en IA ont-elles accepté de nouvelles règles de sécurité ?
Non. Les dirigeants ne se sont pas engagés publiquement à apporter des changements, bien que Hassabis ait plaidé pour « une voie médiane raisonnable » et que Friar ait déclaré qu'aucune entreprise ni aucun gouvernement ne pouvait garantir la sécurité à lui seul.
Hannah Collymore
Hannah est rédactrice et éditrice, forte d'une expérience de près de dix ans dans la rédaction de blogs et la couverture d'événements liés aux cryptomonnaies. Chez Cryptopolitan, elle contribue à la page d'actualités en rédigeant des articles et en analysant les dernières évolutions de la finance décentralisée DeFi, des comptes gérés par les utilisateurs (RWA), de la réglementation des cryptomonnaies, de l'intelligence artificielle (IA) et des technologies de pointe. Elle est diplômée en administration des affaires de l'université Arcadia.
