Des lauréats du prix Nobel rejoignent politiciens et scientifiques dans un appel urgent pour limiter les utilisations dangereuses de l'IA
- Plus de 200 dirigeants, dont 10 lauréats du prix Nobel et des chercheurs de premier plan en intelligence artificielle, appellent à l’instauration de limites internationales contraignantes contre les utilisations dangereuses de l’IA d’ici 2026.
- Les interdictions proposées incluent les armes autonomes létales, l’IA autoréplicante et l’utilisation de l’IA dans la guerre nucléaire.
- Cet appel mondial, dévoilé lors de l’Assemblée générale des Nations Unies, souligne que les engagements volontaires pris par les entreprises d’IA sont insuffisants.
La campagne visant à pousser les gouvernements à convenir de limites internationales contraignantes pour limiter l'abus de la technologie IA a été escalated au niveau de l'ONU, alors que plus de 200 dirigeants politiques, scientifiques et penseurs de renom, dont 10 lauréats du prix Nobel, ont émis un avertissement sur les risques de cette technologie.
La déclaration, publiée lundi à l'ouverture de la Semaine de haut niveau de l'Assemblée générale des Nations Unies, est qualifiée d'Appel mondial pour des lignes rouges de l'IA. Elle soutient que la « trajectoire actuelle de l'IA présente des dangers sans précédent » et exige que les pays travaillent vers un accord international sur des restrictions claires et vérifiables d'ici la fin de 2026.
Les lauréats du prix Nobel mènent le plaidoyer à l'ONU
Le plaidoyer a été révélé par Maria Ressa, lauréate du prix Nobel de la paix et journaliste, qui a utilisé son discours d'ouverture pour exhorter les gouvernements à « prévenir les risques universellement inacceptables » et à définir ce que l'IA ne devrait jamais être autorisée à faire.
Les signataires de la déclaration incluent des lauréats du prix Nobel de chimie, d'économie, de paix et de physique, ainsi que des auteurs célèbres tels que Stephen Fry et Yuval Noah Harari. L'ancienne présidente irlandaise Mary Robinson et l'ancien président colombien Juan Manuel Santos, qui est également lauréat du prix Nobel de la paix, ont également apporté leur soutien.
Geoffrey Hinton et Yoshua Bengio, communément appelés les « pères fondateurs de l'IA » et lauréats du prix Turing, largement considéré comme le prix Nobel de l'informatique, ont également signé la déclaration.
« C'est un tournant », a déclaré Harari. « Les humains doivent convenir de lignes rouges claires pour l'IA avant que la technologie ne transforme la société au-delà de notre compréhension et ne détruise les fondements de notre humanité. »
Les efforts passés pour alerter sur l'IA se sont souvent concentrés sur les engagements volontaires des entreprises et des gouvernements. En mars 2023, plus de 1 000 dirigeants technologiques, dont Elon Musk, ont appelé à une pause dans le développement de systèmes d'IA puissants. Quelques mois plus tard, des dirigeants de l'IA tels que Sam Altman d'OpenAI et Demis Hassabis de Google DeepMind ont signé une brève déclaration assimilant les risques existentiels de l'IA à ceux de la guerre nucléaire et des pandémies.
L'IA alimente les craintes de risques existentiels et sociétaux
La semaine dernière encore, l'IA a été impliquée dans des affaires allant du suicide d'un adolescent à des rapports sur son utilisation pour manipuler le débat public.
Les signataires de cet appel font valoir que ces risques immédiats pourraient bientôt être éclipsés par des menaces plus importantes. Des commentateurs ont averti que les systèmes d'IA avancés pourraient entraîner un chômage de masse, des pandémies conçues ou des violations systématiques des droits de l'homme s'ils n'étaient pas contrôlés.
Certains éléments de la liste d'embargo incluent l'interdiction des armes autonomes létales, l'interdiction des systèmes d'IA à reproduction autonome et l'assurance que l'IA ne soit jamais déployée dans la guerre nucléaire.
« Il est de notre intérêt commun vital de prévenir que l'IA n'inflige des dommages graves et potentiellement irréversibles à l'humanité, et nous devons agir en conséquence », a déclaré Ahmet Üzümcü, l'ancien directeur général de l'Organisation pour l'interdiction des armes chimiques, qui a remporté le prix Nobel de la paix en 2013 sous sa direction.
Plus de 60 organisations de la société civile ont signé la lettre, y compris le think tank britannique Demos et l'Institut de Pékin pour la sécurité et la gouvernance de l'IA. L'effort est coordonné par trois organisations à but non lucratif : le Center for Human-Compatible AI de l'Université de Californie à Berkeley, The Future Society et le Centre français pour la sécurité de l'IA.
Malgré les récentes garanties de sécurité d'entreprises comme OpenAI et Anthropic, qui ont accepté des tests gouvernementaux des modèles avant leur publication, la recherche suggère que les entreprises ne respectent qu'environ la moitié de leurs engagements.
« Nous ne pouvons pas nous permettre d'attendre », a déclaré Ressa. « Nous devons agir avant que l'IA n'avance au-delà de notre capacité à la contrôler. »
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
