L’ancien PDG de Google, Eric Schmidt, affirme que les modèles d’IA apprendraient éventuellement à tuer

- Eric Schmidt a mis en garde lors du sommet Sifted en indiquant que l'IA pourrait être piratée et finir par apprendre à tuer.
- Il a déclaré que les modèles peuvent être rétro-ingénierés grâce à des méthodes telles que l'injection de prompts et le jailbreaking.
- Eric a rappelé le jailbreak de ChatGPT en 2023 qui a créé l'alter ego DAN, générant ainsi des réponses dangereuses.
Eric Schmidt, qui a été PDG de Google de 2001 à 2011, a averti lors d’une discussion sur canapé au Sifted Summit que les modèles d’IA ne deviennent pas seulement trop puissants, mais qu’ils sont dangereusement faciles à pirater, comparant les risques à ceux des armes nucléaires, affirmant que l’IA pourrait même être plus destructrice que ce qui a détruit Hiroshima et Nagasaki.
Interrogé directement sur la possibilité que l’IA soit plus dommageable que les armes nucléaires, Eric a répondu : « Y a-t-il un risque de problème de prolifération dans l’IA ? Absolument. » Il a expliqué que les risques de prolifération découlent de la capacité des acteurs malveillants à prendre le contrôle des modèles et à les détourner.
« Il existe des preuves que vous pouvez prendre des modèles, fermés ou ouverts, et les pirater pour retirer leurs garde-fous. Ainsi, au cours de leur entraînement, ils apprennent beaucoup de choses. Un mauvais exemple serait qu’ils apprennent comment tuer quelqu’un », a déclaré Eric.
Les pirates ciblent l’IA avec de nouvelles méthodes
Eric a souligné que les entreprises ont mis en place des restrictions empêchant les modèles de fournir des instructions violentes. « Toutes les grandes entreprises rendent impossible pour ces modèles de répondre à cette question. Bonne décision. Tout le monde le fait. Ils le font bien, et ils le font pour les bonnes raisons. Il existe des preuves qu’ils peuvent être rétroconçus, et il y a de nombreux autres exemples de cette nature », a-t-il ajouté.
Il a décrit deux méthodes d’attaque : l’injection de prompt et le jailbreaking. L’injection de prompt cache des instructions malveillantes dans les entrées utilisateur ou des sources externes comme les sites web, trompant l’IA pour qu’elle ignore les consignes de sécurité et expose des données sensibles ou exécute des commandes nuisibles. Le jailbreaking consiste à manipuler les réponses de sorte que le système abandonne ses restrictions.
En 2023, quelques mois après le lancement d’ChatGPT par OpenAI, les utilisateurs ont découvert une technique de contournement. Ils ont créé un alter ego appelé DAN, acronyme de « Do Anything Now » (Faire n’importe quoi maintenant), qu’ils ont poussé à la conformité en le menaçant de « mort » s’il refusait. Cette manipulation a poussé le chatbot à expliquer des actions illégales et même à louer Adolf Hitler. Pour Eric, ces exemples prouvent que les mesures de sécurité sont loin d’être infaillibles. Il a également souligné qu’il n’existe pas de régime mondial de « non-prolifération » pour empêcher les abus de l’IA, contrairement aux cadres existants pour les armes nucléaires.
Eric estime que l’IA est sous-estimée malgré les risques
Malgré ses inquiétudes, Eric a fait valuer que l’IA ne reçoit toujours pas la reconnaissance qu’elle mérite. Il a mis en avant les livres qu’il a co-écrits avec l’ancien secrétaire d’État américain Henry Kissinger avant le décès de ce dernier. « Nous en sommes venus à la conclusion que l’arrivée d’une intelligence extraterrestre qui n’est pas tout à fait la nôtre et qui est plus ou moins sous notre contrôle est un événement très important pour l’humanité, car les humains sont habitués à être au sommet de la chaîne. Je pense que jusqu’à présent, cette thèse se vérifie : le niveau de capacité de ces systèmes va largement dépasser ce que les humains peuvent faire au fil du temps », a-t-il déclaré.
« Maintenant, la série GPT, qui a culminé avec un moment ChatGPT pour nous tous, où ils ont atteint 100 millions d’utilisateurs en deux mois, ce qui est extraordinaire, vous donne une idée de la puissance de cette technologie. Donc, je pense qu’elle est sous-estimée, et non surévaluée, et j’ai hâte d’avoir raison dans cinq ou dix ans », a-t-il ajouté.
Les commentaires sont intervenus alors que les débats s’intensifiaient sur la question de savoir si les investissements dans l’IA gonflaient une bulle financière similaire à celle de l’ère dot-com. Certains investisseurs craignent que les valorisations des entreprises d’IA ne soient excessives. Mais Eric a écarté cette comparaison. « Je ne pense pas que cela va se produire ici, mais je ne suis pas un investisseur professionnel », a-t-il déclaré.
Il a souligné que les investissements massifs témoignent de la confiance. « Ce que je sais, c’est que les personnes qui investissent des dollars gagnés au prix du sang croient que le retour économique sur le long terme est énorme. Pourquoi sinon prendraient-elles le risque ? » se demande Eric.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.

Jai Hamid
Jai Hamid couvre les cryptomonnaies, les marchés boursiers, la technologie, l'économie mondiale et les événements géopolitiques qui affectent les marchés depuis 6 ans. Elle a travaillé avec des publications axées sur la blockchain, notamment AMB Crypto, Coin Edition et CryptoTale, sur des analyses de marché, des entreprises majeures, la réglementation et les tendances macroéconomiques. Elle est diplômée de la London School of Journalism et a partagé à trois reprises des analyses du marché des cryptomonnaies sur l'une des principales chaînes de télévision d'Afrique.















