La cheffe des droits de l’ONU Türk met en garde : l’IA avancée pourrait menacer l’humanité, appelle à des « lignes rouges »
Photo par UN Trade and Development (UNCTAD) sur Flickr.
- Le chef des droits humains de l'ONU, Volker Türk, a mis en garde contre le fait que l'IA, de plus en plus puissante, pourrait constituer un risque existentiel.
- Türk a demandé aux gouvernements de convenir de « lignes rouges » contraignantes avant que la technologie ne dépasse le contrôle humain.
- L'ONU souhaite transformer cet avertissement volontaire en règles internationales contraignantes.
Le Haut-Commissaire des Nations Unies (ONU) aux droits de l’homme, Volker Türk, a averti publiquement des capacités de l’intelligence artificielle croissant jusqu’à devenir une menace existentielle pour l’humanité au Conseil des droits de l’homme à Genève, plus tôt aujourd’hui, le 7 septembre.
Türk a exhorté les gouvernements à agir rapidement pour mettre en place des mesures de protection et limiter les laboratoires d’IA en tête de la course aux technologies des systèmes autonomes, afin d’éviter qu’elles ne deviennent incontrôlables face à la multiplication des violations et des incidents de sécurité.
Le plus grand problème pour l’exécutif de l’ONU est que les systèmes technologiques de l’IA évoluent plus rapidement que les systèmes de gouvernance actuels ne peuvent les suivre. Cette croissance incontrôlée a désormais amplifié les menées au-delà de la désinformation et des pertes d’emplois, vers des domaines existentiels tels que la sécurité, la responsabilité et la surveillance sans contrôle des systèmes hautement autonomes.
La cheffe des droits de l’homme de l’ONU appelle à une action internationale urgente
Türk a cité une fenêtre de tir fermante où les capacités de l’IA peuvent encore être contrôlées comme base de l’urgence qu’il attache à son appel à une action coordonnée internationalement. Il a également dénoncé la façon dont le rythme et la direction des avancées du domaine sont disproportionnellement entre les mains d’un petit cercle de dirigeants technologiques et d’entreprises.
Türk a proposé une solution aux drapeaux rouges qu’il a signalés. Son alternative consiste à ce que les pays où ces principales entreprises d’IA sont basées, ainsi que ceux qui contrôlent les chaînes d’approvisionnement critiques, s’engagent et tracent des « lignes rouges » sur la limite jusqu’à laquelle ils sont prêts à laisser aller la technologie.
Le Haut-Commissaire aux droits de l’homme de l’ONU revient sur un sujet que l’organe international a abordé lors du premier Dialogue mondial sur la gouvernance de l’IA dans la même ville suisse en juillet.
S’exprimant au sommet AI for Good de l’UIT, où la conversation a commencé, Türk a déclaré : « Nous ne considérons pas les normes de sécurité pour les médicaments, les voitures ou les avions comme des obstacles au progrès », selon les images de l’ONU. « Elles sont la raison pour laquelle les gens font confiance à ces technologies dès le départ. » La supervision humaine, a-t-il ajouté, « ne peut pas être une simple formalité. »
Une partie des preuves qui ont alimenté la conversation à ce sommet a été présentée par Sonia Livingstone du Groupe scientifique mondial sur l’IA mandaté par l’ONU. À cette date, au moins un enfant par classe a déclaré avoir été victime de deepfakes sexuellement explicites générés par l’IA dans une étude couvrant 11 pays du Sud global.
La cheffe d’ONU Femmes, Sima Bahous, a également signalé le biais de genre de tout cela. Selon elle, environ 88 % des principaux chercheurs en IA. Elle a également rapporté qu’au moins une femme sur quatre parmi les militantes et journalistes interrogées par son agence avaient subi des abus en ligne assistés par l’IA.
Les laboratoires d’IA et les législateurs se sont réveillés face aux problèmes
L’ONU n’est pas seule à sonner l’alarme cet été. Le sénateur américain Bernie Sanders a appelé à une pause immédiate sur les travaux avancés en IA et à une interdiction permanente de la superintelligence, tandis qu’un groupe transpartisan de parlementaires britanniques a plaidé pour des « interrupteurs d’urgence » légalement obligatoires pour l’IA après ce qu’ils ont décrit comme une série d’incidents d’IA incontrôlée.
Ces inquiétudes ont suivi la revendication d’OpenAI, liée à son modèle GPT-6 Astra, selon laquelle sa technologie avait atteint l’intelligence artificielle générale, et l’aveu d’Anthropic que ses propres modèles n’étaient « pas parfaitement alignés » avec les valeurs humaines.
Une partie de cette pression vient de l’intérieur de l’industrie. Dans un essai de juin couvert par Axios, le PDG d’Anthropic, Dario Amodei, a soutenu que les gouvernements devraient avoir le pouvoir légal de bloquer ou d’inverser les déploiements dangereux d’IA, et que les modèles de pointe devraient subir des tests obligatoires, tout comme les voitures, les avions ou les nouveaux médicaments.
Dans sa propre mise à jour du Conseil, Türk a étendu le thème au champ de bataille, soutenant les appels à interdire les armes capables de tuer sans humain dans la boucle.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
De quoi Volker Türk a-t-il exactement averti ?
Volker Türk, Haut-Commissaire des Nations Unies aux droits de l'homme, a prévenu que l'IA, de plus en plus puissante, pourrait à terme représenter une menace existentielle pour l'humanité et a appelé à mettre en place d'urgence des sauvegardes avant que ses capacités ne dépassent le contrôle humain effectif.
Quelles sont les « lignes rouges » proposées par Türk ?
Il a soutenu que les pays hébergeant les grandes entreprises d'IA et ceux qui contrôlent les chaînes d'approvisionnement critiques devraient convenir de limites claires, ou « lignes rouges », pour le développement de l'IA, visant à limiter la concentration du pouvoir de l'IA entre les mains d'un petit nombre de dirigeants et d'entreprises.
Comment cela s'articule-t-il avec l'initiative plus large de l'ONU sur l'IA ?
Il fait suite au premier Dialogue mondial sur la gouvernance de l'IA, tenu à Genève en juillet, où des experts ont signalé des preuves croissantes de préjudices liés à l'IA, et l'ONU exorte désormais à l'harmonisation des règles internationales, un deuxième dialogue étant prévu à New York en mai prochain.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
