L'adoption croissante de l'IA expose l'humanité à des dangers catastrophiques. Dans une tournure des événements choquante, le Dr Geoffrey Hinton, largement connu comme le "parrain de l'IA", a démissionné de son poste chez Google et a lancé un avertissement sévère sur les dangers de l'intelligence artificielle.
L'IA s'avère être la plus grande menace pour l'humanité
Selon des informations, le "parrain de l'IA" a démissionné de son poste chez Google afin de pouvoir parler plus ouvertement des risques potentiels de l'intelligence artificielle. technologie. Le Dr Geoffrey Hinton a travaillé sur les algorithmes d'apprentissage automatique chez Google pendant plus d'une décennie avant de quitter l'entreprise. Son travail de toute une vie sur les réseaux de neurones lui aurait valu l'appellation.
La démission du Dr Geoffrey intervient au milieu des inquiétudes croissantes concernant l'utilisation de l'intelligence artificielle. dans divers secteurs, dont la santé, la finance et les transports. Les critiques soutiennent que l'intelligence artificielle pourrait entraîner des suppressions d'emplois, des violations de la vie privée et même le développement d'armes autonomes.
Dans une interview avec le New York Times, il a déclaré qu'il était très préoccupé par l'utilisation de l'intelligence artificielle pour inonder Internet de fausses images, vidéos et textes au point où les gens ne « pourront plus savoir ce qui est vrai ». plus."
Hinton craignait également que la technologie de l'intelligence artificielle ne remplace le travail humain. Il pense que l'intelligence artificielle pourrait constituer une menace pour l'humanité à l'avenir en raison de sa capacité à acquérir des comportements inattendus à partir des quantités massives de données qu'elle analyse. Hinton a également exprimé des regrets sur le travail de sa vie :
Je me console avec l'excuse normale : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait.
Dr Geoffrey Hinton
La démission du Dr Geoffrey Hinton a envoyé une onde de choc dans toute l'industrie technologique, de nombreux experts appelant à une plus grande surveillance et réglementation de l'intelligence artificielle. Alors que le débat sur les risques et les avantages de l'intelligence artificielle se poursuit, il est clair que les contributions de pionniers comme le Dr Geoffrey Hinton seront cruciales pour façonner l'avenir de cette technologie en évolution rapide.
De nombreux experts en technologie mettent en garde contre les dangers de l'intelligence artificielle
Ces derniers mois, les régulateurs, les législateurs et les leaders de l'industrie technologique ont tous exprimé leur inquiétude concernant le développement de l'intelligence artificielle. Plus de 2 600 cadres et chercheurs de la technologie ont signé une lettre ouverte en mars demandant une suspension temporaire du développement de l'intelligence artificielle, citant "de graves risques pour la société et l'humanité".
En avril, douze législateurs de l'Union européenne ont signé une lettre similaire, et un récent projet de loi de l'UE classe les outils d'intelligence artificielle en fonction de leurs niveaux de risque. De plus, le Royaume-Uni fournira 125 millions de dollars à un groupe de travail pour le développement d'une "IA sûre".
Selon certaines informations, des outils d'intelligence artificielle sont déjà utilisés pour la désinformation, avec des exemples récents de médias trompés pour publier de fausses nouvelles. En outre, un média allemand a utilisé l'intelligence artificielle pour simuler une interview.
Binance a affirmé le 1er mai que son PDG Changpeng "CZ" Zhao était membre d'une dent , propagée par un chatbot provenant de ChatGPT, comme en témoignent des captures d'écran du chatbot.
La semaine dernière, un groupe de farceurs a également escroqué plusieurs médias du monde entier, dont le Daily Mail et The Indepen dent . Le Daily Mail a publié un article sur un acteur canadien présumé nommé "Saint Von Colucci", qui serait décédé après avoir subi une chirurgie plastique pour le faire ressembler davantage à une pop star sud-coréenne. Le Daily Mail a par la suite supprimé l'article.
Quels sont les dangers prévisibles de l'IA pour l'humanité ?
Il existe plusieurs dangers prévisibles de l'intelligence artificielle pour l'humanité, dont certains sont déjà expérimentés et d'autres qui pourraient se produire à l'avenir. Voici quelques-uns des dangers les plus préoccupants :
1. Déplacement d'emplois : à mesure que l'intelligence artificielle devient plus avancée, il existe un risque qu'elle remplace les travailleurs humains dans de nombreuses industries, entraînant des pertes d'emplois massives et des perturbations économiques. Elon Musk a noté qu'il y a des emplois que les robots prendront en charge et effectueront mieux que les humains
2. Armes autonomes : Le développement d'armes autonomes, capables de décider qui cibler et quand attaquer sans intervention humaine, est une préoccupation majeure. Ces armes pourraient potentiellement causer des dommages involontaires, car elles pourraient mal fonctionner ou être piratées.
3. Conséquences imprévues : À mesure que les systèmes d'intelligence artificielle deviennent plus complexes, il existe un risque qu'ils produisent des conséquences imprévues qui pourraient être nuisibles. Par exemple, une intelligence artificielle. système conçu pour maximiser les profits d'une entreprise pourrait, par inadvertance, nuire à l'environnement ou à la société.
4. Biais et discrimination : les systèmes d'intelligence artificielle sont aussi impartiaux que les données sur lesquelles ils sont formés, ce qui signifie que si les données utilisées pour les former sont biaisées, le système d'intelligence artificielle sera également biaisé. Cela peut avoir de graves conséquences, en particulier dans des domaines tels que la justice pénale, où des systèmes d'intelligence artificielle biaisés pourraient entraîner un traitement injuste de certains groupes.
5. Risques liés à la cybersécurité : à mesure que les systèmes d'intelligence artificielle deviennent plus avancés, ils pourraient également devenir plus vulnérables aux cyberattaques. Si un système d'IA est piraté, il pourrait potentiellement être utilisé pour causer des dommages ou perturber des systèmes critiques.
6. Manque de transparence et de responsabilité : si les systèmes d'intelligence artificielle prennent des décisions importantes concernant la vie des gens, comme l'octroi d'un prêt ou la libération sous caution, il est important que ces systèmes soient transparents et responsables. Cependant, certains craignent que certains systèmes d'intelligence artificielle ne soient opaques et difficiles à comprendre ou à auditer.
7. Risques existentiels : certains experts ont exprimé leur inquiétude quant au fait que le développement de l'intelligence artificielle pourrait constituer une menace existentielle pour l'humanité, soit par le développement d'une intelligence artificielle super intelligente qui échappe au contrôle humain, soit par l'utilisation de l'IA à des fins militaires ou destructrices .
