Les médias et les acteurs du secteur technologique américains appellent à un moratoire sur le développement de l'IA superintelligente

Une coalition de personnalités médiatiques, de scientifiques et de dirigeants technologiques de droite américains appelle à une interdiction mondiale du développement d'une intelligence artificielle (IA) superintelligente jusqu'à ce que la science garantisse qu'elle puisse être contrôlée en toute sécurité, en parallèle avec le soutien du public.

Selon un rapport de Reuters publié mercredi, l'appel coordonné par le Future of Life Institute (FLI) a été annoncé par le biais d'une déclaration commune signée par plus de 850 personnalités publiques. 

Le document demande aux gouvernements et aux entreprises spécialisées dans l'IA de suspendre tous les travaux sur la superintelligence, ces systèmes d'IA censés surpasser les capacités cognitives humaines, jusqu'à ce que des mécanismes de sécurité approuvés publiquement soient mis en place.

Des alliés convergent pour stopper le développement de l'IA superintelligente 

La signée par des personnalités médiatiques de droite comme Steve Bannon et Glenn Beck, ainsi que par d'éminents chercheurs en intelligence artificielle tels que Geoffrey Hinton et Yoshua Bengio. On y retrouve également Richard Branson, fondateur du groupe Virgin, Steve Wozniak, cofondateur d'Apple, et d'anciens responsables militaires et politiques américains. 

La liste comprend également l'ancien chef d'état-major interarmées Mike Mullen, l'ancienne conseillère à la sécurité nationale Susan Rice, le duc et la duchesse de Sussex, le prince Harry et Meghan Markle, ainsi que l'anciennedent de l'Irlande Mary Robinson.

Le célèbre informaticien Yoshua Bengio a fait part des craintes de la coalition dans une déclaration publiée sur le site web de l'initiative, affirmant que les systèmes d'IA pourraient bientôt surpasser la plupart des humains dans les tâches cognitives. Bengio a réaffirmé que la technologie pourrait contribuer à résoudre les problèmes mondiaux, mais qu'elle représente d'immenses dangers si elle est développée de manière imprudente.

« Pour progresser en toute sécurité vers la superintelligence, nous devons déterminer scientifiquement comment concevoir des systèmes d'IA fondamentalement incapables de nuire aux êtres humains, que ce soit par erreur ou par utilisation malveillante », a-t-il déclaré. « Nous devons également veiller à ce que le public ait un rôle beaucoup plustronà jouer dans les décisions qui façonneront notre avenir collectif. »

Le Future of Life Institute, une organisation à but non lucratif fondée en 2014 avec le soutien initial d' de Tesla , et de l'investisseur technologique Jaan Tallinn, figure également parmi les groupes qui militent pour une gouvernance responsable de l'IA. 

L'organisation avertit que la course à la création d'une IA superintelligente ou d'une superintelligence artificielle (ASI) pourrait engendrer des risques irréversibles pour l'humanité si elle n'est pas correctement réglementée.

Dans sa dernière déclaration, le groupe a noté que la superintelligence pourrait conduire à « l’obsolescence économique humaine, à la perte de pouvoir, à la perte de liberté, de libertés civiles, de dignité et de contrôle, ainsi qu’à des menaces pour la sécurité nationale et même à l’extinction potentielle de l’humanité »

FLI demande aux décideurs politiques d'interdire totalement la recherche et le développement en matière de superintelligence jusqu'à ce qu'il y ait un «tronsoutien public » et un « consensus scientifique sur le fait que de tels systèmes peuvent être construits et contrôlés en toute sécurité »

Le secteur technologique divisé sur le développement de l'IA

Les géants de la tech continuent de repousser les limites de l'IA, malgré les critiques de certains quant à son impact sur l'emploi et le développement de produits. xAI d'Elon Musk, OpenAI de Sam Altman et Meta sont tous engagés dans une course effrénée pour développer de puissants modèles de langage à grande échelle. 

En juillet, Mark Zuckerberg, PDG de Meta, a déclaré lors d'une conférence que le développement de systèmes superintelligents était « désormais à portée de main ». Cependant, certains experts en IA affirment que le PDG de Meta utilise des tactiques marketing pour effrayer ses concurrents en faisant croire que son entreprise est « en avance » dans un secteur qui devrait générer des centaines de milliards de dollars dans les années à venir.

Le gouvernement américain et l'industrie technologique ont résisté aux demandes de moratoire, affirmant que les craintes d'une « apocalypse de l'IA » sont largement exagérées. Les opposants à une pause dans le développement estiment qu'elle étoufferait l'innovation, ralentirait la croissance économique et compromettrait les avantages potentiels que l'IA pourrait apporter à la médecine, aux sciences du climat et à l'automatisation.

Pourtant, selon un sondage national commandé par FLI, l'opinion publique américaine est majoritairement favorable à un contrôle plus strict. Ce sondage, mené auprès de 2 000 adultes, révèle que les trois quarts desdentsoutiennent une réglementation accrue de l'IA avancée, et que six sur dix estiment qu'une IA surhumaine ne devrait pas être développée tant qu'il n'est pas prouvé qu'elle est contrôlable. 

Avant de devenir directeur général d'OpenAI, Sam Altman avait averti dans un article de blog de 2015 que « l'intelligence artificielle surhumaine est probablement la plus grande menace pour la survie de l'humanité »

De même, Elon Musk, qui a à la fois financé et combattu les progrès de l'IA, a déclaré plus tôt cette année dans le podcast de Joe Rogan qu'il n'y avait « que 20 % de chances d'annihilation » si l'IA surpassait l'intelligence humaine.