Le Royaume-Uni adopte une position proactive sur la sécurité de l'IA face aux préoccupations de risques existentiels

Dans un changement notable de position, le Royaume-Uni prend activement des mesures pour faire face aux menaces potentielles liées à l'Intelligence Artificielle (IA). Le Premier ministre Rishi Sunak a dévoilé des plans pour un Sommet international sur la sécurité de l'IA, soulignant l'urgence de traiter ces menaces. Ce changement fait suite à un livre blanc sur l'IA plus tôt, qui, au printemps, caractérisait les risques existentiels liés à l'IA comme ayant un « impact élevé, faible probabilité ».

Le changement de perspective est en partie attribué à l'influence du mouvement de l'Altruisme Efficace (EA), un groupe de leaders d'opinion plaidant pour la sécurité de l'IA, souvent soutenu par des figures prominentes de l'industrie technologique.

Altruisme Efficace : Prôner une approche centrée sur l'avenir

Le mouvement de l'Altruisme Efficace a été instrumental dans la formation de la position du Royaume-Uni sur la sécurité de l'IA. Enraciné à l'Université d'Oxford et alimenté par le soutien des géants de la Silicon Valley. Les adeptes de l'EA croient que l'IA super-intelligente, si elle n'est pas gérée de manière appropriée, pourrait poser une menace existentielle pour l'humanité. 

Leur approche met l'accent sur les considérations à long terme plutôt que sur les préoccupations immédiates, affirmant que la poursuite de l'IA super-intelligente devrait se poursuivre avec une prudence inébranlable. Pour eux, les résultats potentiels du développement de l'IA sont binaires : soit l'utopie, soit l'annihilation. Cette perspective a gagné du terrain au Royaume-Uni, avec des conseillers gouvernementaux alignés sur les préoccupations de l'EA et les liens étroits de Sunak avec les laboratoires d'IA connectés au mouvement.

L'avertissement d'Ian Hogarth déclenche l'action

Le moment charnière de ce changement est arrivé lorsque l'investisseur technologique Ian Hogarth a rédigé un article viral dans le Financial Times en avril, alertant sur la course vers une « IA divine » et son potentiel à entraîner l'obsolescence ou la destruction de l'humanité. Son article faisait écho aux sentiments de la lettre influente « Pause de l'IA », qui appelait à un moratoire sur les expériences d'IA à grande échelle.

En conjonction avec une autre lettre suggérant que l'IA posait un risque d'extinction, cela a déclenché des discussions généralisées et a incité le Premier ministre Sunak à exprimer sa préoccupation face à ces risques.

L'influence de l'Altruisme Efficace sur le groupe de travail sur la sécurité de l'IA du Royaume-Uni

Sous la direction d'Ian Hogarth, le groupe de travail sur les modèles de base du Royaume-Uni a annoncé de nouveaux partenariats, dont un nombre significatif est associé au mouvement de l'Altruisme Efficace. Notamment, le Centre pour la sécurité de l'IA, connu pour sa lettre sur le « risque d'extinction de l'IA », reçoit un financement principal d'Open Philanthropy, une organisation majeure de donateurs de l'EA. Arc Evals, qui présente des risques potentiellement catastrophiques des systèmes d'IA, est un autre partenaire soutenu par les donateurs de l'EA. 

Le projet Community Intelligence, axé sur les modèles de gouvernance pour les technologies transformatrices, est également connecté à la communauté EA. L'équipe de recherche du groupe de travail comprend le professeur de Cambridge David Krueger, qui a reçu une subvention substantielle d'Open Philanthropy pour réduire le risque d'extinction humaine dû aux systèmes d'IA.

Sécurité de l'IA et modèles de pointe

Le groupe de travail, désormais rebaptisé « Groupe de travail sur l'IA de pointe », élargit son focus pour s'adresser aux risques émergents de l'IA au-delà de l'horizon immédiat. Il vise à gérer les risques et à tirer parti des avantages de la technologie pour la société. Cependant, ce changement de perspective a suscité des critiques de certaines parties. 

Les chercheurs et experts en éthique de l'IA soutiennent que l'accent mis sur les risques existentiels a éclipsé des préoccupations pressantes telles que les biais, la confidentialité des données et les questions de droits d'auteur dans les modèles d'IA d'aujourd'hui. Ils expriment leur inquiétude que les discussions sur la sécurité de l'IA soient devenues alarmistes et manquent de preuves empiriques.

L'intersection de l'Altruisme Efficace, des géants de la technologie et de la politique

Les liens forts du mouvement EA avec la Silicon Valley soulèvent des questions sur son objectivité. Les principaux laboratoires d'IA comme OpenAI, DeepMind et Anthropic ont des connexions avec l'EA, son idéologie influençant leur éthique et leurs décisions. 

Open Philanthropy, fondée par le co-fondateur de Facebook Dustin Moskovitz, a fourni à OpenAI un financement initial substantiel. Le fondateur de Skype Jaan Tallinn était un investisseur précoce et ancien directeur chez DeepMind. Elon Musk, partisan de l'idéologie « longterm » liée à l'EA, a embauché Dan Hendrycks, directeur du Centre pour la sécurité de l'IA, en tant que conseiller pour sa nouvelle startup, xAI.

Soutien financier de l'EA à la sécurité de l'IA

Pour contrer les menaces perçues, le mouvement EA canalise des ressources significatives vers la sécurité de l'IA. Harold Karnofsky, responsable d'Open Philanthropy, s'est temporairement retiré pour se concentrer sur la sécurité de l'IA. Le centre de conseils de carrière de l'EA, 80,000 hours, recommande la recherche technique sur la sécurité de l'IA et la façonnage de la gouvernance future de l'IA comme les meilleurs choix de carrière pour les EA. Ce soutien est couplé à un vocabulaire unique, y compris des termes comme « risques existentiels » et « probabilité de désastre », qui distingue l'EA dans les discussions sur la sécurité de l'IA.

Alors que l'agenda de sécurité de l'IA du Royaume-Uni gagne en momentum, certains experts mettent en garde contre la négligence des défis immédiats liés à l'IA tels que les biais, la confidentialité des données et les considérations éthiques. Ils soutiennent que l'accent mis sur les risques existentiels a éclipsé ces questions pressantes. Les critiques expriment également des préoccupations selon lesquelles la proximité du mouvement avec les entreprises d'IA pourrait conduire à une capture réglementaire, où l'industrie exerce une influence indue sur l'élaboration des politiques.

Un écosystème complexe : le rôle de l'EA dans la formulation des politiques sur l'IA

L'influence du mouvement de l'Altruisme Efficace dans la formulation de l'agenda de sécurité de l'IA du Royaume-Uni est indéniable. Enraciné dans le milieu universitaire et soutenu par la Silicon Valley, il a réussi à propulser les risques existentiels sous les projecteurs. Cependant, alors que le Royaume-Uni navigue dans ce paysage complexe, les décideurs politiques doivent équilibrer les préoccupations à long terme de sécurité de l'IA avec les défis éthiques, juridiques et sociétaux immédiats que posent les technologies d'IA d'aujourd'hui.

L'approche proactive du Royaume-Uni en matière de sécurité de l'IA reflète l'évolution du paysage du développement de l'IA. Bien que l'Altruisme Efficace et sa perspective à long terme aient joué un rôle pivot dans ce changement, le Royaume-Uni est confronté au défi de trouver un équilibre entre la prise en compte des risques existentiels et la gestion des implications éthiques et sociétales de l'IA dans l'immédiat. Alors que le Sommet international sur la sécurité de l'IA approche, on verra comment le Royaume-Uni naviguera dans ces eaux complexes et contribuera à façonner l'avenir de l'IA à l'échelle mondiale.