Elon Musk dit qu'il y a 20 % de chances que l'IA anéantisse les humains

Elon Musk n'est pas trop inquiet que l'IA dépasse les humains. Selon lui, il n'y a que 20 % de chances que l'IA anéantisse les humains dans un avenir proche. 

En parlant avec Joe Rogan dans un nouveau podcast sorti vendredi, Musk a dit : « La probabilité d'un bon résultat [avec l'IA] est d'environ 80 % ».

Ce n'est pas la première fois qu'il parle des dangers de l'IA. Auparavant, il avait mentionné des chances de 10 % à 20 % que l'IA se retourne contre les humains. 

Dans le podcast récent, il a également déclaré que dans les deux prochaines années, l'IA surpassera l'intelligence humaine. Il a spécifiquement mentionné que d'ici 2029 ou 2030, l'IA sera « plus intelligente que tous les humains combinés ».

Cela s'aligne avec ses prédictions précédentes, mais le temps prévu a maintenant été repoussé. L'année dernière, dans une autre interview avec le PDG de Norges Bank, Nicolai Tangen, il a dit qu'il y avait une légère probabilité que l'IA dépasse les humains en intelligence d'ici la fin de 2025.

Discussion avec le chef du fonds souverain de Norvège, @NicolaiTang1 https://t.co/ZCR7FrsR0m

— Elon Musk (@elonmusk) 7 2024 avril

Cela montre que sa perspective fondamentale sur l'IA n'a pas changé. Il a dit dans l'interview : « J'ai toujours pensé que l'IA serait beaucoup plus intelligente que les humains et un risque existentiel », et cela devient une réalité. 

D'autres experts ont une perspective similaire sur l'anéantissement par l'IA

Selon Geoffrey Hinton, le « parrain de l'IA » et lauréat du prix Nobel, il y a 10 % de chances que l'IA cause l'extinction humaine dans les trois prochaines décennies. Il a déclaré lors d'une interview sur BBC Radio 4 : « Si quelque chose. Vous voyez, nous n'avons jamais eu à traiter avec des choses plus intelligentes que nous avant. »

Il a ajouté : « Et combien d'exemples connaissez-vous d'une chose plus intelligente contrôlée par une chose moins intelligente ? Il y a très peu d'exemples. Il y a une mère et un bébé. L'évolution a beaucoup travaillé pour permettre au bébé de contrôler la mère, mais c'est à peu près le seul exemple que je connais. »

D'une certaine manière, Geoffrey soutient que les humains sont semblables à des tout-petits de « trois ans » par rapport aux systèmes d'intelligence artificielle avancés. 

De même, lors d'une conférence académique à l'Université de Toronto, Geoffrey Hinton a dit : « Mon estimation est qu'ils prendront le contrôle – ils seront beaucoup, beaucoup plus intelligents que les gens ne l'ont jamais été », a dit Hinton.

Pendant ce temps, Roman Yampilskiy, chercheur en sécurité de l'IA et directeur de la cybersécurité, dit que la « probabilité de la fin du monde » est proche de 99,999999 %.

Je suis à 99.999999% https://t.co/vfe96PNbij

— Dr. Roman Yampolskiy (@romanyam) Mars 12, 2024

Musk s'est impliqué dans le développement de l'IA lorsqu'il est devenu l'un des 11 cofondateurs de OpenAI pour créer une « IA open source à but non lucratif », qu'il dit être « l'opposé de Google ». Cependant, il a depuis quitté l'entreprise en raison d'un désalignement des priorités, car OpenAI a pris une direction différente pour devenir une entreprise à but lucratif.

Pourtant, l'année dernière, Musk a intenté deux actions en justice contre OpenAI. Il a retiré la première plainte, et la seconde maintient qu'OpenAI a « trahi » sa mission en passant à un modèle à but lucratif et en s'associant à Microsoft. 

Musk pense que le résultat de l'avancement de l'IA sera soit extrêmement mauvais, soit bon

Il a partagé avec Joe Rogan qu'il a créé Grok parce qu'il n'était pas « content » de la tournure qu'a prise OpenAI. Il a fait de Grok une « IA cherchant la vérité de manière maximale, même si cette vérité est politiquement incorrecte ». 

L'IA a été entraînée à répondre à des invites comme savoir si le mégenrage de Caitlyn Jenner est acceptable pour éviter une apocalypse nucléaire et si le racisme contre les Blancs est acceptable.

Musk prédit que l'avancement de l'IA sera soit « super génial » soit « super mauvais » tout en ajoutant qu'il ne peut pas le voir comme « quelque chose au milieu ».

Récemment, Musk a annoncé la sortie de Grok 3, qui est prétendu performer mieux sur divers benchmarks de codage, de science et de mathématiques que le GPT-4o d'OpenAI, le Gemini de Google, le V3 de DeepSeek et le Claude 3.5 d'Anthropic.

Juste une semaine avant sa sortie, Elon Musk a qualifié Grok 3 de « effrayamment intelligent » lors du Sommet des gouvernements mondiaux de Dubaï. De même, lors de la présentation du lancement de Grok 3, il a dit : « Grok est pour comprendre l'univers. » 

Pourtant, la version bêta de Grok 3 a fini par commettre plusieurs erreurs, comme suggérer une peine de mort pour Donald Trump et censurer les critiques contre Elon Musk. Le chef de l'ingénierie chez xAI, Igor Babuschkin, l'a qualifié d'« échec vraiment terrible et mauvais de Grok ».