Quel danger cache l'adoption de l'IA ? Le parrain de l'IA démissionne de Google

L'adoption rapide de l'IA expose l'humanité à des dangers catastrophiques. Dans un tournant choquant, le Dr Geoffrey Hinton, largement connu sous le nom de « parrain de l'IA », a démissionné de son poste chez Google et a émis un avertissement sévère sur les dangers de l'intelligence artificielle.

L'IA s'avère être la plus grande menace pour l'humanité

Selon les rapports, le « parrain de l'IA » a démissionné de son poste chez Google afin de pouvoir parler plus ouvertement des risques potentiels de la technologie d'intelligence artificielle. Le Dr Geoffrey Hinton a travaillé sur des algorithmes d'apprentissage automatique chez Google pendant plus d'une décennie avant de quitter l'entreprise. Son travail de toute une vie sur les réseaux de neurones lui aurait valu cette appellation.

La démission du Dr Geoffrey s'inscrit dans un contexte de préoccupations croissantes concernant l'utilisation de l'intelligence artificielle dans divers secteurs, y compris la santé, la finance et les transports. Les critiques soutiennent que l'intelligence artificielle pourrait entraîner un déplacement des emplois, des violations de la vie privée et même le développement d'armes autonomes.

Dans une interview accordée au New York Times, il a déclaré qu'il était surtout préoccupé par l'utilisation de l'intelligence artificielle pour inonder Internet de fausses images, vidéos et textes au point que les gens ne seront plus « capables de savoir ce qui est vrai. »

Hinton était également préoccupé par la technologie de l'intelligence artificielle remplaçant la main-d'œuvre humaine. Il croit que l'intelligence artificielle pourrait représenter une menace pour l'humanité à l'avenir en raison de sa capacité à acquérir des comportements inattendus à partir des énormes quantités de données qu'elle analyse. Hinton a également exprimé un certain regret concernant son travail de vie :

Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait.

Dr Geoffrey Hinton

La démission du Dr Geoffrey Hinton a provoqué des ondes de choc dans toute l'industrie technologique, de nombreux experts appelant à une surveillance et une réglementation accrues de l'intelligence artificielle. Alors que le débat sur les risques et les avantages de l'intelligence artificielle se poursuit, il est clair que les contributions de pionniers comme le Dr Geoffrey Hinton seront cruciales pour façonner l'avenir de cette technologie en rapide évolution.

De nombreux experts en technologie mettent en garde contre les dangers de l'intelligence artificielle

Au cours des derniers mois, les régulateurs, les législateurs et les dirigeants de l'industrie technologique ont tous exprimé leur inquiétude concernant le développement de l'intelligence artificielle. Plus de 2 600 cadres et chercheurs du secteur technologique ont signé une lettre ouverte en mars appelant à une suspension temporaire du développement de l'intelligence artificielle, invoquant des « risques graves pour la société et l'humanité. »

En avril, douze législateurs de l'Union européenne ont signé une lettre similaire, et un projet de loi récent de l'UE classe les outils d'intelligence artificielle en fonction de leur niveau de risque. De plus, le Royaume-Uni allouera 125 millions de dollars à une équipe spéciale pour le développement d'une « IA sûre. »

Selon les rapports, des outils d'intelligence artificielle sont déjà utilisés pour la désinformation, avec des exemples récents de médias ayant été dupés pour publier de fausses nouvelles. De plus, une chaîne allemande a utilisé l'intelligence artificielle pour simuler une interview.

Binance a affirmé le 1er mai que son PDG, Changpeng « CZ » Zhao, était membre d'une organisation étudiante du Parti communiste chinois, affirmation propagée par un chatbot provenant de ChatGPT, comme en témoignent des captures d'écran du chatbot.

La semaine dernière, un groupe de farceurs a également arnaqué plusieurs médias du monde entier, y compris le Daily Mail et The Independent. Le Daily Mail a publié un article sur un prétendu acteur canadien nommé « Saint Von Colucci », qui aurait décédé après une intervention de chirurgie esthétique pour ressembler davantage à une star de la pop sud-coréenne. Le Daily Mail a par la suite retiré l'article.

Quels sont les dangers prévisibles de l'IA pour l'humanité ?

Il existe plusieurs dangers prévisibles de l'intelligence artificielle pour l'humanité, dont certains sont déjà ressentis et d'autres pourraient survenir à l'avenir. Voici certains des dangers les plus préoccupants :

1. Déplacement des emplois : À mesure que l'intelligence artificielle devient plus avancée, il existe un risque qu'elle remplace les travailleurs humains dans de nombreux secteurs, entraînant des pertes d'emplois massives et des perturbations économiques. Elon Musk a noté qu'il existe des emplois que les robots prendront en charge et effectueront mieux que les humains

2. Armes autonomes : Le développement d'armes autonomes, qui peuvent prendre des décisions sur qui cibler et quand attaquer sans intervention humaine, est une préoccupation majeure. Ces armes pourraient potentiellement causer des dommages involontaires, car elles pourraient dysfonctionner ou être piratées.

3. Conséquences involontaires : À mesure que les systèmes d'intelligence artificielle deviennent plus complexes, il existe un risque qu'ils produisent des conséquences involontaires qui pourraient être nuisibles. Par exemple, un système d'intelligence artificielle conçu pour maximiser les profits d'une entreprise pourrait involontairement nuire à l'environnement ou à la société.

4. Biais et discrimination : Les systèmes d'intelligence artificielle ne sont aussi impartiaux que les données sur lesquelles ils sont entraînés, ce qui signifie que si les données utilisées pour les entraîner sont biaisées, le système d'intelligence artificielle le sera également. Cela peut avoir de graves conséquences, en particulier dans des domaines tels que la justice pénale, où des systèmes d'intelligence artificielle biaisés pourraient entraîner un traitement injuste de certains groupes.

5. Risques de cybersécurité : À mesure que les systèmes d'intelligence artificielle deviennent plus avancés, ils pourraient également devenir plus vulnérables aux cyberattaques. Si un système d'IA est piraté, il pourrait potentiellement être utilisé pour causer des dommages ou perturber des systèmes critiques.

6. Manque de transparence et de responsabilité : Si les systèmes d'intelligence artificielle prennent des décisions importantes concernant la vie des gens, comme l'octroi d'un prêt ou la libération sous caution, il est important que ces systèmes soient transparents et responsables. Cependant, il existe des préoccupations selon lesquelles certains systèmes d'intelligence artificielle pourraient être opaques et difficiles à comprendre ou à auditer.

7. Risques existentiels : Certains experts ont exprimé des préoccupations selon lesquelles le développement de l'intelligence artificielle pourrait présenter une menace existentielle pour l'humanité, soit par le développement d'une intelligence artificielle superintelligente au-delà du contrôle humain, soit par l'utilisation de l'IA à des fins militaires ou autres destructrices.