Les chercheurs en IA suggèrent une chance de 5 % d'extinction humaine due à une IA avancée

Dans une récente enquête menée auprès de 2 700 chercheurs en intelligence artificielle (IA) ayant publié des travaux dans six conférences majeures sur l'IA, il a été révélé que près de 58 % des répondants estiment qu'il y a 5 % de chances que l'IA provoque l'extinction humaine ou d'autres résultats catastrophiques.

L'enquête a également exploré les calendriers des jalons technologiques de l'IA et leurs conséquences sociétales potentielles. Malgré l'incertitude et les désaccords parmi les chercheurs, ces résultats éclairent les préoccupations au sein de la communauté de l'IA concernant les risques potentiels associés au développement d'une IA surhumaine.

Les chercheurs expriment des réserves quant au risque d'extinction par l'IA

Katja Grace, auteure de l'enquête et chercheuse à l'Institut de recherche en intelligence artificielle en Californie, a souligné l'importance de la croyance en un risque non négligeable posé par l'IA avancée. Grace a déclaré : « C'est un signal important que la plupart des chercheurs en IA ne trouvent pas fortement improbable que l'IA avancée détruise l'humanité. » Cependant, selon Émile Torres, chercheur à l'Université Case Western Reserve dans l'Ohio, il n'y a pas de raison immédiate de s'inquiéter.

Torres a mis en garde contre une réaction excessive aux enquêtes d'experts, notant qu'ils n'ont pas un fort bilan en matière de prédictions précises sur le développement de l'IA. Une étude précédente en 2012 a montré que les prédictions des experts en IA n'étaient pas plus fiables que l'opinion publique. Les auteurs de l'enquête actuelle ont également souligné que les chercheurs en IA ne possèdent peut-être pas l'expertise nécessaire pour prévoir la trajectoire future de l'IA.

Jalons accélérés et prédictions plus précoces

Par rapport à une version de 2022 de la même enquête, de nombreux chercheurs en IA dans la dernière enquête anticipaient que l'IA atteindrait certains jalons plus tôt que précédemment projeté. Ces prédictions coïncidaient avec le lancement en novembre 2022 de services de chatbots IA avancés comme ChatGPT et le déploiement rapide de modèles IA similaires dans la Silicon Valley.

Les chercheurs prévoyaient une probabilité de 50 % ou plus que les systèmes d'IA réussissent diverses tâches au cours de la prochaine décennie. Ces tâches comprenaient la création de chansons indiscernables de celles d'artistes populaires comme Taylor Swift et la codification de sites web de traitement de paiements complets à partir de zéro. Cependant, d'autres tâches complexes, telles que l'installation physique de câblage électrique dans les maisons ou la résolution de mystères mathématiques de longue date, devraient prendre plus de temps.

La perspective que l'IA dépasse la performance humaine dans toutes les tâches s'est vu attribuer une chance de 50 % d'ici 2047, tandis que la possibilité que tous les emplois humains deviennent entièrement automatisables a reçu une probabilité de 50 % d'ici 2116. Ces estimations marquent une accélération de 13 ans et 48 ans, respectivement, par rapport à l'enquête de l'année précédente.

Perforations d'IA imprévisibles et préoccupations immédiates

Malgré les attentes accrues entourant le développement de l'IA, Émile Torres a exprimé des réserves quant à l'imprévisibilité des perforations technologiques. Torres a noté que le domaine de l'IA avait précédemment connu des périodes de financement réduit et d'intérêt corporatif, appelées « hivers de l'IA », au cours des années 1970 et 80.

De plus, les chercheurs en IA ont souligné des préoccupations immédiates telles que l'utilisation abusive de l'IA, y compris les deepfakes, la manipulation de l'opinion publique, le développement d'armes conçues, le contrôle autoritaire des populations et l'aggravation des inégalités économiques. Torres a également souligné les dangers potentiels de l'IA contribuant à la désinformation sur des questions critiques telles que le changement climatique et la gouvernance démocratique.

L'enquête auprès des chercheurs en IA révèle un niveau significatif de préoccupation au sein de la communauté de l'IA concernant les risques potentiels associés au développement d'une IA avancée. Bien que le pourcentage exact de risque que l'IA provoque l'extinction humaine reste incertain, la croyance en un risque non négligeable met en évidence la nécessité de considérations éthiques et de sécurité continues dans le développement de l'IA.

Malgré des prédictions accélérées pour les jalons de l'IA, les chercheurs reconnaissent l'imprévisibilité des avancées technologiques et soulignent des préoccupations immédiates telles que l'utilisation abusive de l'IA et les impacts sociétaux. Alors que l'IA continue d'évoluer, les chercheurs, les décideurs politiques et la société dans son ensemble doivent relever ces défis de manière proactive et responsable.