Une étude du département d'État américain préconise une interdiction temporaire de l'IA avancée

Une étude récente commandée par le département d'État américain et réalisée par le cabinet de conseil Gladstone AI recommande d'envisager une interdiction temporaire des intelligences artificielles (IA) dépassant un certain seuil de puissance de calcul. Cette étude de 247 pages affirme que les progrès incontrôlés de l'IA constituent une menace existentielle pour l'humanité, justifiant une action réglementaire immédiate.

Menace d'extinction massive : appels urgents à une réglementation

Le rapport de Gladstone AI souligne les conséquences potentiellement catastrophiques d'un développement non réglementé de l'IA, mettant en garde contre sa capacité à déstabiliser la sécurité mondiale. Les auteurs proposent d'octroyer aux gouvernements de larges pouvoirs pour encadrer les progrès de l'IA, invoquant des inquiétudes quant à son potentiel de détournement d'armes nucléaires et d'infrastructures critiques. L'étude préconise de doter le pouvoir exécutif de nouveaux pouvoirs d'urgence pour faire face efficacement aux menaces hypothétiques que pourrait représenter l'IA.

Le rapport suggère de considérer les puces informatiques haut de gamme, indispensables au développement de l'IA, comme de la contrebande internationale et préconise un contrôle strict de l'utilisation du matériel. Ces mesures visent à freiner la prolifération des technologies d'IA, susceptible d'entraîner des conséquences imprévues et potentiellement désastreuses. Cette étude s'inscrit dans un contexte d'inquiétude croissante au sein de divers secteurs, notamment technologiques, gouvernementaux et universitaires, face au déploiement effréné de l'IA.

Les recommandations de Gladstone AI rejoignent les préoccupations récemment exprimées par l'UNESCO concernant la neurosurveillance et les atteintes potentielles à la vie privée psychique liées aux nouvelles technologies de puces cérébrales. L'accent mis par le rapport sur la sécurité de l'IA relève de la compétence du Bureau de la sécurité internationale et de la non-prolifération du Département d'État, chargé d'analyser et d'atténuer les menaces posées par les nouveaux systèmes d'armes.

Un ancien stratège du département de la Défense lance un super PAC pour la sécurité de l'IA

À noter, Mark Beall, co-auteur du rapport, a quitté Gladstone AI pour prendre la tête d'une nouvelle initiative : Americans for AI Safety. Cet ancien stratège du département de la Défense (DoD) souhaite faire de la sécurité de l'IA un enjeu majeur des élections de 2024. Son Super PAC milite pour l'adoption d'une législation complète sur la sécurité de l'IA d'ici fin 2024.

L'étude financée par le Département d'État souligne l'urgence d'une réglementation stricte du développement de l'IA afin d'atténuer les risques existentiels potentiels pour l'humanité. Alors que les débats sur la sécurité de l'IA s'intensifient, les recommandations de Gladstone AI trouvent un écho favorable auprès des acteurs de divers secteurs, insistant sur l'importance de mesures proactives pour garantir un développement responsable de cette technologie.

L’initiative « Americans for AI Safety » et ses actions de plaidoyer témoignent d’une prise de conscience croissante, au sein de la sphère politique, des implications de l’IA sur la sécurité nationale et la stabilité mondiale. Les résultats de ces efforts pourraient influencer considérablement les futures décisions politiques relatives à la réglementation et à la gouvernance de l’IA, et par conséquent, la trajectoire de l’innovation technologique à l’échelle mondiale.

L'étude financée par le Département d'État et le lancement subséquent de l'initiative « Americans for AI Safety » marquent des avancées significatives dans le débat actuel sur la réglementation et la sécurité de l'IA. Ces initiatives, susceptibles de redessiner le paysage géopolitique, soulignent l'importance cruciale de mesures proactives pour relever les défis multiformes posés par les technologies d'IA avancées. Face à l'intersection complexe entre innovation en IA et sécurité mondiale, des efforts concertés en faveur d'un développement responsable de l'IA demeurent essentiels pour préserver l'avenir de l'humanité.