L'adoption de l'IA présente-t-elle de tels dangers ? Le parrain de l'IA quitte Google

L'adoption fulgurante de l'IA expose l'humanité à des dangers catastrophiques. Coup de théâtre : le Dr Geoffrey Hinton, considéré comme le « père de l'IA », a démissionné de son poste chez Google et lancé un avertissement solennel quant aux risques liés à l'intelligence artificielle.

L'IA s'avère être la plus grande menace pour l'humanité

Selon certaines sources, le « parrain de l'IA » a démissionné de son poste chez Google afin de pouvoir s'exprimer plus ouvertement sur les risques potentiels liés à l'intelligence artificielle. Le Dr Geoffrey Hinton a travaillé sur les algorithmes d'apprentissage automatique chez Google pendant plus de dix ans avant de quitter l'entreprise. Ses travaux de longue haleine sur les réseaux neuronaux lui auraient valu ce surnom.

La démission du Dr Geoffrey intervient dans un contexte d'inquiétudes croissantes quant à l'utilisation de l'intelligence artificielle dans divers secteurs, notamment la santé, la finance et les transports. Les critiques affirment que l'intelligence artificielle pourrait entraîner des suppressions d'emplois, des atteintes à la vie privée, voire le développement d'armes autonomes.

Dans une interview accordée au New York Times, il a déclaré que ce qui l'inquiétait le plus, c'était l'utilisation de l'intelligence artificielle pour inonder Internet de fausses images, vidéos et textes, au point que les gens ne seraient plus « capables de savoir ce qui est vrai ».

Hinton craignait également que l'intelligence artificielle ne remplace le travail humain. Il estimait que l'intelligence artificielle pourrait constituer une menace pour l'humanité à l'avenir, du fait de sa capacité à acquérir des comportements imprévisibles à partir des masses de données qu'elle analyse. Hinton a également exprimé certains regrets concernant son œuvre

Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait.

Dr Geoffrey Hinton

La démission du Dr Geoffrey Hinton a provoqué une onde de choc dans le secteur technologique, de nombreux experts réclamant un encadrement et une réglementation accrus de l'intelligence artificielle. Alors que le débat sur les risques et les avantages de l'intelligence artificielle se poursuit, il est clair que les contributions de pionniers comme le Dr Geoffrey Hinton seront cruciales pour façonner l'avenir de cette technologie en pleine évolution.

De nombreux experts en technologie mettent en garde contre les dangers de l'intelligence artificielle

Ces derniers mois, les autorités de régulation, les législateurs et les dirigeants du secteur technologique ont tous exprimé leur inquiétude quant au développement de l'intelligence artificielle. Plus de 2 600 dirigeants et chercheurs du secteur technologique ont signé en mars une lettre ouverte demandant une suspension temporaire du développement de l'intelligence artificielle, invoquant de « graves risques pour la société et l'humanité »

En avril, douze parlementaires européens ont signé une lettre similaire, et un projet de loi européen récent classe les outils d'intelligence artificielle selon leur niveau de risque. Par ailleurs, le Royaume-Uni allouera 125 millions de dollars à un groupe de travail pour le développement d'une « IA sûre »

Il semblerait que des outils d'intelligence artificielle soient déjà utilisés à des fins de désinformation, comme en témoignent des exemples récents de médias dupés et ayant publié de fausses informations. Par ailleurs, un média allemand a eu recours à l'intelligence artificielle pour falsifier une interview.

Binance a affirmé le 1er mai que son PDG Changpeng « CZ » Zhao était membre d'une organisationdent du Parti communiste chinois, information propagée par un chatbot provenant de ChatGPT, comme en témoignent des captures d'écran du chatbot.

La semaine dernière, un groupe de plaisantins a également dupé plusieurs médias à travers le monde, dont le Daily Mail et Thedent. Le Daily Mail a publié un article concernant un prétendu acteur canadien nommé « Saint Von Colucci », qui serait décédé après avoir subi une opération de chirurgie esthétique pour ressembler davantage à une star de la K-pop. Le Daily Mail a ensuite retiré l'article.

Quels sont les dangers prévisibles de l'IA pour l'humanité ?

L’intelligence artificielle présente plusieurs dangers prévisibles pour l’humanité, dont certains sont déjà une réalité et d’autres pourraient survenir à l’avenir. Voici quelques-uns des dangers les plus préoccupants :

1. Suppression d'emplois : Avec le développement de l'intelligence artificielle, le risque existe qu'elle remplace les travailleurs humains dans de nombreux secteurs, entraînant des pertes d'emplois massives et des perturbations économiques. Elon Musk a souligné que certains emplois seront occupés par des robots et qu'ils seront plus performants que les humains.

2. Armes autonomes : Le développement d’armes autonomes, capables de décider qui cibler et quand attaquer sans intervention humaine, est une source de préoccupation majeure. Ces armes pourraient potentiellement causer des dommages involontaires, en raison de dysfonctionnements ou de piratages.

3. Conséquences imprévues : À mesure que les systèmes d’intelligence artificielle se complexifient, le risque de conséquences imprévues et potentiellement néfastes augmente. Par exemple, un système d’intelligence artificielle conçu pour maximiser les profits d’une entreprise pourrait, par inadvertance, nuire à l’environnement ou à la société.

4. Biais et discrimination : les systèmes d’intelligence artificielle ne sont impartiaux que dans la mesure où les données sur lesquelles ils sont entraînés le sont également. Autrement dit, si les données utilisées pour leur entraînement sont biaisées, le système d’intelligence artificielle le sera aussi. Cela peut avoir de graves conséquences, notamment dans des domaines comme la justice pénale, où des systèmes d’intelligence artificielle biaisés pourraient entraîner un traitement inéquitable de certains groupes.

5. Risques de cybersécurité : À mesure que les systèmes d’intelligence artificielle se perfectionnent, leur vulnérabilité aux cyberattaques s’accroît. Un système d’IA piraté pourrait potentiellement être utilisé pour nuire ou perturber des systèmes critiques.

6. Manque de transparence et de responsabilité : Si des systèmes d’intelligence artificielle prennent des décisions importantes concernant la vie des individus, comme l’octroi d’un prêt ou la libération sous caution, il est essentiel que ces systèmes soient transparents et responsables. Or, certains systèmes d’intelligence artificielle sont opaques et difficiles à comprendre ou à auditer.

7. Risques existentiels : Certains experts ont exprimé des inquiétudes quant au fait que le développement de l'intelligence artificielle pourrait constituer une menace existentielle pour l'humanité, soit par le développement d'une intelligence artificielle superintelligente hors de contrôle humain, soit par l'utilisation de l'IA à des fins militaires ou autres destructrices.