La Haut-Commissaire des Nations Unies aux droits de l'homme, Türk, met en garde contre les menaces que l'intelligence artificielle avancée pourrait faire peser sur l'humanité et insiste sur l'importance de fixer des « lignes rouges »

Le Haut-Commissaire des Nations Unies aux droits de l'homme, Volker Türk, a publiquement mis en garde, lors du Conseil des droits de l'homme à Genève, plus tôt dans la journée, le 7 septembre, contre le développement des capacités de l'intelligence artificielle au point de devenir une menace existentielle pour l'humanité.

Türk a exhorté les gouvernements à agir rapidement pour mettre en place des mesures de protection et freiner les laboratoires d'IA en tête de la course à la technologie des systèmes autonomes afin d'éviter qu'elle ne devienne incontrôlable face à l'escalade des violations et desdentde sécurité.

Le plus grand casse-tête pour l'exécutif de l'ONU est que les systèmes dans lesquels la technologie de l'IA se développe plus vite que les systèmes qui la gouvernent actuellement ne peuvent trac. Cette croissance incontrôlée a maintenant transformé les menaces, au-delà de la désinformation et des pertes d'emplois, en menaces existentielles telles que la sécurité, la responsabilité et le manque de surveillance des systèmes hautement autonomes. 

La Haut-Commissaire des Nations Unies aux droits de l'homme appelle à une action internationale urgente 

Türk a invoqué la fenêtre d'opportunité qui se referme pour évaluer les capacités de l'IA, justifiant ainsi l'urgence de son appel à une action internationale coordonnée. Il a également dénoncé le fait que le rythme et l'orientation des progrès dans ce domaine soient concentrés de manière disproportionnée entre les mains d'un petit cercle de dirigeants et d'entreprises technologiques. 

Türk a proposé une solution aux problèmes qu'il a soulevés. Son alternative consiste à ce que les pays où sont implantées ces entreprises leaders en IA et ceux qui contrôlent les chaînes d'approvisionnement critiques prennent leurs responsabilités et fixent des limites claires quant à l'évolution de cette technologie.

Le Haut-Commissariat des Nations Unies aux droits de l'homme revient sur un sujet abordé par l'organisme international lors du premier Dialogue mondial sur la gouvernance de l'IA, qui s'est tenu dans la même ville suisse en juillet. 

S'exprimant lors du sommet de l'UIT sur l'IA au service du bien commun, où la discussion a débuté, Türk a déclaré : « Nous ne considérons pas les normes de sécurité des médicaments, des voitures ou des avions comme des obstacles au progrès », selon des images de l'ONU. « Ce sont elles qui, en premier lieu, inspirent confiance à ces technologies. » Le contrôle humain, a-t-il ajouté, « ne saurait se réduire à une simple formalité ».

Une partie des éléments de preuve qui ont alimenté les débats lors de ce sommet a été présentée par Sonia Livingstone, membre du Groupe scientifique mondial sur l'IA mandaté par l'ONU. À cette époque, une étude menée dans 11 pays du Sud révélait qu'au moins un enfant par classe avait déclaré avoir été victime de deepfakes à caractère sexuel explicite créés par l'IA. 

La directrice d'ONU Femmes, Sima Bahous, a également souligné le caractère sexiste de cette situation. Selon elle, environ 88 % des chercheurs de haut niveau en IA sont victimes de discrimination sexiste. Elle a également indiqué qu'au moins une militante ou journaliste sur quatre interrogées par son agence avait subi des violences en ligne facilitées par l'IA.

Les laboratoires d'IA et les législateurs ont pris conscience des problèmes

L'ONU n'est pas la seule à tirer la sonnette d'alarme cet été. Le sénateur américain Bernie Sanders a appelé à un moratoire immédiat sur les travaux en intelligence artificielle avancée et à une interdiction permanente de la superintelligence, tandis qu'un groupe transpartisan de parlementaires britanniques a plaidé pour des mécanismes d'arrêt d'urgence obligatoires pour l'IA après ce qu'ils ont décrit comme une série d'dentd'IA incontrôlée. 

Ces inquiétudes ont fait suite à l'affirmation d'OpenAI, liée à son modèle GPT-6 Astra, selon laquelle sa technologie avait atteint l'intelligence artificielle générale, et à l'aveu d'Anthropic que ses propres modèles n'étaient « pas parfaitement alignés » sur les valeurs humaines.

Une partie de cette pression provient de l'intérieur même du secteur. Dans un article publié en juin et relayé par Axios, Dario Amodei, PDG d'Anthropic, a soutenu que les gouvernements devraient avoir le pouvoir légal de bloquer ou d'annuler les déploiements d'IA dangereux, et que les modèles émergents devraient être soumis à des tests obligatoires, au même titre que les voitures, les avions ou les nouveaux médicaments. 

Dans sa propre mise à jour au Conseil, Türk a étendu ce thème au champ de bataille, soutenant les appels à interdire les armes capables de tuer sans intervention humaine.