Eric Schmidt, qui a été le PDG de Google de 2001 à 2011, a averti lors d'une discussion informelle au Sifted Summit que les modèles d'IA deviennent non seulement trop puissants, mais aussi dangereusement faciles à pirater, comparant les risques aux armes nucléaires et affirmant que l'IA pourrait même être plus destructrice que ce qui a détruit Hiroshima et Nagasaki.
Interrogé directement sur la possibilité que l'IA soit plus destructrice que les armes nucléaires, Eric a répondu : « Existe-t-il un risque de prolifération de l'IA ? Absolument. » Il a expliqué que les risques de prolifération proviennent de la capacité de personnes mal intentionnées à prendre le contrôle des modèles et à les détourner de leur usage initial.
« Il existe des preuves qu'on peut prendre des maquettes, fermées ou ouvertes, et les pirater pour supprimer leurs garde-fous. Ainsi, au cours de leur formation, ils apprennent beaucoup de choses. Un mauvais exemple serait qu'ils apprennent à tuer quelqu'un », a déclaré Eric.
Les pirates informatiques ciblent l'IA avec de nouvelles méthodes
Eric a souligné que les entreprises ont mis en place des restrictions empêchant les modèles de donner des instructions violentes. « Toutes les grandes entreprises rendent impossible pour ces modèles de répondre à cette question. C'est une bonne décision. Tout le monde le fait. Elles le font bien et pour de bonnes raisons. Il existe des preuves qu'elles peuvent être reproduites par rétro-ingénierie, et il y a beaucoup d'autres exemples de ce genre », a-t-il ajouté.
Il a décrit deux méthodes d'attaque : l'injection de requêtes et le jailbreak. L'injection de requêtes consiste à dissimuler des instructions malveillantes dans les entrées utilisateur ou dans des sources externes comme des sites web, incitant ainsi l'IA à ignorer les consignes de sécurité et à exposer des données sensibles ou à exécuter des commandes malveillantes. Le jailbreak, quant à lui, implique la manipulation des réponses afin que le système s'affranchisse de ses restrictions.
En 2023, quelques mois après le lancement de ChatGPT, des utilisateurs ont découvert une technique de jailbreak. Ils ont créé un alter ego nommé DAN, acronyme de « Do Anything Now » (Fais quelque chose maintenant), qu'ils ont contraint à obéir en le menaçant de « mort » en cas de refus. Cette manipulation a poussé le chatbot à expliquer des actions illégales et même à faire l'éloge d'Adolf Hitler. Pour Eric, ces exemples prouvent que les mesures de sécurité sont loin d'être infaillibles. Il a également souligné l'absence de « régime de non-prolifération » mondial pour empêcher le détournement de l'IA, contrairement aux cadres existants pour les armes nucléaires.
Eric estime que l'IA est sous-estimée malgré les risques
Malgré ses inquiétudes, Eric a soutenu que l'intelligence artificielle ne bénéficie toujours pas de la reconnaissance qu'elle mérite. Il a mis en avant les ouvrages qu'il a coécrits avec l'ancien secrétaire d'État américain Henry Kissinger avant le décès de ce dernier. « Nous sommes arrivés à la conclusion que l'arrivée d'une intelligence extraterrestre différente de la nôtre et plus ou moins sous notre contrôle représente un enjeu majeur pour l'humanité, car nous sommes habitués à dominer. Je pense que, jusqu'à présent, cette thèse se vérifie : les capacités de ces systèmes dépasseront largement celles des humains à terme », a-t-il déclaré.
« La série GPT, qui a culminé avec le succès fulgurant de ChatGPT, atteignant 100 millions d'utilisateurs en deux mois (un chiffre extraordinaire), illustre parfaitement la puissance de cette technologie. Je pense donc qu'elle est sous-estimée, et non surestimée, et j'espère que d'ici cinq ou dix ans, j'aurai raison », a-t-il ajouté.
Ces commentaires interviennent alors que le débat fait rage quant à savoir si les investissements dans l'IA alimentent une bulle financière comparable à celle de l'époque des dot-com. Certains investisseurs craignent que les valorisations des entreprises d'IA ne soient excessives. Mais Eric a balayé cette comparaison d'un revers de main. « Je ne pense pas que cela se produira ici, mais je ne suis pas un investisseur professionnel », a-t-il déclaré.
Il a souligné que des investissements importants témoignent de la confiance. « Ce que je sais, c'est que ceux qui investissent leurs économies croient fermement au potentiel de rendement économique à long terme. Sinon, pourquoi prendraient-ils un tel risque ? » s'interroge Eric.
