L'ancien PDG de Google, Eric Schmidt, déclare que les « États voyous ou terroristes » peuvent abuser de l'IA pour nuire aux personnes innocentes

Une récente interview de la BBC avec l'ancien chef de la direction de Google, Eric Schmidt, a mis en lumière sa préoccupation concernant les risques extrêmes posés par le développement de l'IA qui pourraient nuire aux personnes innocentes. Schmidt a expliqué que les États voyous et les extrémistes pourraient exploiter la croissance rapide de l'intelligence artificielle pour créer des armes biologiques susceptibles d'infliger des dommages catastrophiques au public. 

L'ancien PDG de Google a également souligné que les risques qu'il considérait ne faisaient pas partie de ce que la plupart des gens considéraient comme des risques dans le développement de l'IA. À son avis, des pays comme la Russie, la Corée du Nord et l'Irak avaient des motifs cachés et pourraient abuser de la technologie émergente à des fins personnelles. 

Schmidt a donné l'exemple de l'attaque du 11 septembre initiée par le chef d'al-Qaïda de l'époque, Oussama ben Laden, conduisant les extrémistes à prendre le contrôle d'avions commerciaux et à les utiliser comme ogives. L'ancien PDG de Google a souligné les milliers de victimes de l'attaque de 2001, suggérant que de tels groupes pourraient utiliser l'IA pour mener des attaques similaires. 

Schmidt affirme que la supervision gouvernementale est cruciale dans le développement de l'IA

Schmidt a expliqué l'importance de la supervision gouvernementale dans le développement de l'intelligence artificielle, mentionnant la domination du secteur privé dans la recherche et l'innovation de cette technologie. Selon l'ancien patron de Google, le gouvernement devrait avoir une idée de ce que font les entreprises privées, comme Google, en ce qui concerne l'IA. Schmidt a également fait valoir qu'il devait y avoir un équilibre entre la supervision gouvernementale et le développement. 

L'ancien PDG de Google a également abordé l'intérêt actuel des grandes entreprises technologiques pour l'IA malgré leur ignorance de son potentiel il y a quelques années. Schmidt a également indiqué la connaissance des dirigeants de ces entreprises de leur influence sur les consommateurs et leur différence de jugement de valeur par rapport aux régulateurs. Google fait partie des entreprises technologiques développant l'IA, y compris en initiant des modèles d'entraînement pour son application IA, Gemini. 

Schmidt a les restrictions de l'ancien président Joe Biden sur l'exportation de puces IA vers tous les pays sauf 18 pour maintenir la leadership des États-Unis dans le développement de l'IA. L'administration Biden a également réitéré la nécessité de tenir ces puces à l'écart des acteurs malveillants qui pourraient exploiter la technologie pour menacer la sécurité nationale du pays. Le département de la Défense des États-Unis a également maintenu que, entre de mauvaises mains, l'IA pourrait être utilisée pour créer des armes de destruction massive. 

Nvidia, l'un des principaux fabricants de puces informatiques du pays, dans un que les restrictions affecteraient la compétitivité des États-Unis tout en limitant leur innovation en IA. Le vice-président des affaires gouvernementales de Nvidia, Ned Finkle, a souligné la nécessité d'autonomie dans l'innovation en IA. L'UE a également a exprimé exprimé des préoccupations concernant les restrictions, mentionnant la nécessité pour la région de continuer à acheter des puces sans restrictions provenant des États-Unis. 

Les pays s'allient pour un développement inclusif de l'IA

#Regtech #ResponsibleAI

Bien que les engagements pris ici ne soient pas contraignants – un accord atteint ici qui ressemble plus à une déclaration de principe qu'à un véritable engagement, mais qui a au moins le mérite d'ouvrir les « esprits » sur #AI sécurité – , le Royaume-Uni et les États-Unis refusent de signer… pic.twitter.com/cpGGOxBaY0

— Pinna Pierre (@pierrepinna) février 13, 2025

60 pays, dont la Chine, la France, l'Allemagne, d'autres pays de l'UE et l'Union africaine, a signé un accord international sur le développement inclusif, éthique et ouvert de l'IA. La déclaration visait à maintenir la transparence mondiale, la sécurité, la fiabilité et l'accessibilité à l'innovation en IA. Une autre priorité de la déclaration était d'assurer la durabilité de l'IA pour les individus et la communauté mondiale. 

L'accord a été signé lors du Sommet de l'action pour l'IA, où l'UE a également s'est engagée 206 milliards de dollars en faveur du développement de l'IA. La présidente de la Commission européenne, Ursula Von der Leyen, a décrit la mission de la région pour adopter une approche unique de l'innovation et des cas d'utilisation de cette technologie. Le président français Emmanuel Macron a également souligné l'intérêt de la France à aider l'UE à diriger ce secteur. 

Le Royaume-Uni et les États-Unis ont toujours refusé de signer le récent accord international. Le gouvernement britannique a exprimé des préoccupations concernant la sécurité nationale et la gouvernance mondiale. Les États-Unis, d'autre part, ont décrit l'approche réglementaire de l'IA comme stricte. Le vice-président JD Vanc a critiqué l'approche de l'UE lors du sommet, déclarant que le pays n'accueillerait pas favorablement l'allègement des réglementations IA pour les entreprises technologiques américaines.