Chargement...

Les chercheurs en IA suggèrent qu’il y a 5 % de chances d’extinction de l’humanité grâce à une IA avancée

Dans cet article :

  • Les chercheurs en IA reconnaissent un risque de 5 % d’extinction humaine dû à l’IA avancée, soulignant la nécessité d’un développement éthique de l’IA.
  • Une enquête montre que les experts en IA prédisent des étapes accélérées, mais l'avenir du domaine reste imprévisible.
  • Les préoccupations immédiates incluent l’utilisation abusive de l’IA, les deepfakes et leur impact sur la démocratie, soulignant l’urgence d’un développement responsable de l’IA.

Dans une enquête récente menée auprès de 2 700 chercheurs en intelligence artificielle (IA) qui ont publié leurs travaux lors de six grandes conférences sur l'IA, il a été révélé que près de 58 % des dent interrogées pensent qu'il existe 5 % de chances que l'IA provoque l'extinction de l'humanité ou d'autres conséquences catastrophiques. .

L’enquête a également exploré les délais des étapes technologiques de l’IA et leurs conséquences sociétales potentielles. Malgré l’incertitude et les désaccords entre les chercheurs, ces résultats mettent en lumière les inquiétudes de la communauté de l’IA concernant les risques potentiels associés au développement d’une IA surhumaine.

Les chercheurs se montrent prudents quant au risque d’extinction de l’IA

Katja Grace, auteur de l'enquête et chercheuse au Machine Intelligence Research Institute en Californie, a souligné l'importance de la croyance dans un risque non négligeable posé par l'IA avancée. Grace a déclaré : « C'est un signal important que la plupart des chercheurs en IA ne trouvent pas tron invraisemblable que l'IA avancée détruise l'humanité. » Cependant, il n’y a pas de raison de s’alarmer dans l’immédiat, selon Émile Torres, chercheur à la Case Western Reserve University dans l’Ohio.

Torres a mis en garde contre une réaction excessive aux enquêtes d'experts, notant que ces derniers n'ont pas d'aussi tron trac en matière de prévision précise des développements de l'IA. Une étude précédente réalisée en 2012 avait révélé que les prédictions des experts en IA n’étaient pas plus fiables que l’opinion publique. Les auteurs de l'enquête actuelle ont également souligné que les chercheurs en IA ne possèdent peut-être pas d'expertise dans la prévision de la trajectoire future de l'IA.

Jalons accélérés et prédictions antérieures

Par rapport à une version 2022 de la même enquête, de nombreux chercheurs en IA interrogés dans la dernière enquête prévoyaient que l’IA atteindrait certaines étapes plus tôt que prévu. Ces prédictions ont coïncidé avec le lancement en novembre 2022 de services avancés de chatbot d’IA comme ChatGPT et le déploiement rapide de modèles d’IA similaires dans la Silicon Valley.

Les chercheurs prévoyaient une probabilité de 50 % ou plus que les systèmes d’IA accomplissent avec succès diverses tâches au cours de la prochaine décennie. Ces tâches comprenaient la création de chansons impossibles à distinguer de celles d’artistes populaires comme Taylor Swift et le codage de sites Web complets de traitement des paiements à partir de zéro. Cependant, d’autres tâches complexes, telles que l’installation physique du câblage électrique dans les maisons ou la résolution de mystères matic de longue date, devaient prendre plus de temps.

La probabilité que l’IA dépasse les performances humaines dans chaque tâche avait une probabilité de 50 % de se réaliser d’ici 2047, tandis que la possibilité que tous les emplois humains deviennent entièrement automatisables avait une probabilité de 50 % d’ici 2116. Ces estimations marquaient un délai de 13 et 48 ans. respectivement, par rapport à l'enquête de l'année précédente.

Percées imprévisibles de l’IA et préoccupations immédiates

Malgré les attentes accrues autour du développement de l’IA, Émile Torres s’est montré prudent quant à l’imprévisibilité des avancées technologiques. Torres a noté que le domaine de l’IA avait déjà connu des périodes de réduction du financement et de l’intérêt des entreprises, appelées « hivers de l’IA », au cours des années 1970 et 1980.

En outre, les chercheurs en IA ont souligné des préoccupations immédiates telles que l’utilisation abusive de l’IA, notamment les deepfakes, la manipulation de l’opinion publique, le développement d’armes artificielles, le contrôle autoritaire sur les populations et l’aggravation des inégalités économiques. Torres a également souligné les dangers potentiels de la contribution de l’IA à la désinformation sur des questions cruciales telles que le changement climatique et la gouvernance démocratique.

L’enquête menée auprès des chercheurs en IA révèle un niveau d’inquiétude important au sein de la communauté de l’IA concernant les risques potentiels associés au développement avancé de l’IA. Bien que le pourcentage exact de risque que l’IA provoque l’extinction de l’humanité reste incertain, la croyance en un risque non infime souligne la nécessité de tenir compte en permanence de considérations éthiques et de sécurité dans le développement de l’IA.

Malgré les prévisions accélérées des étapes clés de l’IA, les chercheurs reconnaissent l’imprévisibilité des progrès technologiques et soulignent les préoccupations immédiates telles que l’utilisation abusive de l’IA et les impacts sociétaux. À mesure que l’IA continue d’évoluer, les chercheurs, les décideurs politiques et la société dans son ensemble doivent relever ces défis de manière proactive et responsable.

Clause de non-responsabilité. Les informations fournies ne sont pas des conseils commerciaux. Cryptopolitan.com décline toute responsabilité pour les investissements effectués sur la base des informations fournies sur cette page. Nous tron vivement dent recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Lien de partage:

Les plus lus

Chargement des articles les plus lus...

Restez au courant de l'actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception

Nouvelles connexes

Les investisseurs remplacent leurs positions Nvidia par d'autres actions
cryptopolite
Abonnez-vous à CryptoPolitan