Des chercheurs en IA estiment à 5 % la probabilité d'extinction de l'humanité en raison des progrès de l'IA

Dans une enquête récente menée auprès de 2 700 chercheurs en intelligence artificielle (IA) ayant publié des travaux lors de six grandes conférences sur l'IA, il a été révélé que près de 58 % desdentpensent qu'il existe une chance de 5 % que l'IA provoque l'extinction de l'humanité ou d'autres conséquences catastrophiques.

L'étude a également exploré le calendrier des grandes étapes technologiques de l'IA et leurs conséquences sociétales potentielles. Malgré l'incertitude et les divergences entre les chercheurs, ces résultats mettent en lumière les préoccupations de la communauté de l'IA quant aux risques potentiels liés au développement d'une IA surhumaine.

Les chercheurs expriment leur prudence face au risque d'extinction de l'IA

Katja Grace, co-auteure de l'étude et chercheuse à l'Institut de recherche sur l'intelligence artificielle en Californie, a souligné l'importance de la conviction que l'IA avancée représente un risque non négligeable. « Le fait que la plupart des chercheurs en IA ne considèrent pas commetronimprobable que l'IA avancée puisse détruire l'humanité est un signal important », a-t-elle déclaré. Cependant, selon Émile Torres, chercheur à l'Université Case Western Reserve dans l'Ohio, il n'y a pas lieu de s'alarmer immédiatement.

Torres a mis en garde contre toute réaction excessive aux sondages d'experts, soulignant que leur capacité tracprédire avec précision l'évolution de l'IA n'est pastronéprouvée. Une étude antérieure, menée en 2012, avait déjà conclu que les prédictions des experts en IA n'étaient pas plus fiables que l'opinion publique. Les auteurs du sondage actuel ont également fait remarquer que les chercheurs en IA ne possèdent pas nécessairement l'expertise requise pour prévoir la trajectoire future de l'IA.

Étapes accélérées et prévisions plus précoces

Comparativement à une enquête similaire menée en 2022, de nombreux chercheurs en IA ayant participé à la dernière étude anticipaient que l'IA atteindrait certains jalons plus rapidement que prévu. Ces prédictions ont coïncidé avec le lancement, en novembre 2022, de services de chatbots avancés tels que ChatGPT et le déploiement rapide de modèles d'IA similaires dans la Silicon Valley.

Les chercheurs prévoyaient une probabilité de 50 % ou plus que les systèmes d'IA réussissent diverses tâches au cours de la prochaine décennie. Parmi ces tâches figuraient la création de chansons indiscernables de celles d'artistes populaires comme Taylor Swift et la programmation complète de sites web de traitement des paiements. Cependant, d'autres tâches complexes, telles que l'installation physique de câblage électrique dans les maisons ou la résolution d'énigmesmaticde longue date, devraient prendre plus de temps.

La perspective que l'IA surpasse les performances humaines dans toutes les tâches a été estimée à 50 % de chances de se réaliser d'ici 2047, tandis que la possibilité que tous les emplois humains deviennent entièrement automatisables a reçu une probabilité de 50 % d'ici 2116. Ces estimations marquent une accélération de 13 ans et de 48 ans, respectivement, par rapport à l'enquête de l'année précédente.

Percées imprévisibles en IA et préoccupations immédiates

Malgré les attentes élevées suscitées par le développement de l'IA, Émile Torres a exprimé sa prudence quant à l'imprévisibilité des percées technologiques. Il a rappelé que le domaine de l'IA avait déjà connu des périodes de réduction des financements et de l'intérêt des entreprises, qualifiées d'« hivers de l'IA », dans les années 1970 et 1980.

Par ailleurs, les chercheurs en IA ont souligné des préoccupations immédiates telles que le mésusage de l'IA, notamment les deepfakes, la manipulation de l'opinion publique, le développement d'armes de haute technologie, le contrôle autoritaire des populations et l'aggravation des inégalités économiques. Torres a également insisté sur les dangers potentiels de l'IA contribuant à la désinformation sur des enjeux cruciaux comme le changement climatique et la gouvernance démocratique.

L'enquête menée auprès des chercheurs en IA révèle une vive inquiétude au sein de la communauté quant aux risques potentiels liés au développement avancé de l'IA. Si le pourcentage exact du risque d'extinction de l'humanité par l'IA demeure incertain, la conviction qu'il existe un risque non négligeable souligne la nécessité d'une prise en compte continue des questions éthiques et de sécurité dans le développement de l'IA.

Malgré les prévisions d'accélération des progrès en IA, les chercheurs reconnaissent l'imprévisibilité de ces avancées technologiques et soulignent les préoccupations immédiates telles que les mésusages de l'IA et ses impacts sociétaux. Face à l'évolution constante de l'IA, chercheurs, décideurs politiques et société dans son ensemble doivent relever ces défis de manière proactive et responsable.