L'IA avancée pourrait créer de nouveaux risques extrêmes, affirment des experts dans un rapport publié avant le sommet sur l'IA

Un rapport scientifique international récemment publié sur la sécurité de l'IA avancée montre que l'IA avancée pourrait être calamiteuse et laisser une traînée de douleur et de souffrance pour les humains.

Selon l'AP, il s'agit du premier rapport international de ce genre, publié le mercredi avant le sommet sur l'IA à Paris en février, recensant les dangers posés par cette technologie en pleine expansion.

Les pays soutiennent le rapport scientifique international

Le rapport détaille certains des dangers qui pourraient surgir à la suite de l'IA avancée, notamment la facilitation du terrorisme et des pertes d'emplois massives. Cela a déjà été observé, en particulier dans la tech, où des milliers d'emplois ont été supprimés alors que les entreprises automatisent grâce à l'IA.

Selon AP, le rapport bénéficie du soutien de 30 pays, dont les États-Unis et la Chine, une instance rare où les deux plus grandes économies du monde coopèrent. Les deux pays se sont affrontés dans une lutte pour la suprématie dans le domaine de l'IA. Cette semaine, la startup chinoise DeepSeek a stupéfié le monde avec son chatbot à petit budget, bien que les États-Unis aient imposé des contrôles stricts à l'exportation vers la Chine.

Le scientifique en IA de renom Yoshua Bengio a dirigé cette étude, qui fusionne des études existantes destinées à guider les autorités dans l'élaboration de garde-fous pour cette technologie en pleine expansion.

« Les enjeux sont élevés », indique le rapport, notant qu'il y a quelques années, les systèmes d'IA pouvaient à peine produire un paragraphe cohérent. Cependant, grâce aux développements récents, l'IA peut désormais générer des images réalistes, du code informatique et maintenir des conversations prolongées avec les utilisateurs.

Selon les chercheurs, les dangers de l'IA avancée sont déjà lentement observés, tels que la désinformation et la mésinformation, les deepfakes, les arnaques et les biais.

« Nous devons mieux comprendre les systèmes que nous construisons et les risques qui les accompagnent afin de prendre de meilleures décisions à l'avenir. »

Bengio.

Cela survient « alors que l'IA à usage général devient plus performante, des preuves de risques supplémentaires émergent progressivement », selon le rapport.

Cela survient également la même semaine où le Vatican a mis en garde contre cette technologie, conjointement avec le groupe derrière l'Horloge de l'Apocalypse. Le rapport se concentre sur l'IA à usage général, typifiée par des modèles tels que ChatGPT d'OpenAI.

Le rapport a catégorisé les risques liés à l'IA avancée

Le rapport scientifique international regroupe les risques en trois catégories : l'usage malveillant, les dysfonctionnements et les risques « systémiques » généralisés. Les chercheurs ont examiné la facilité avec laquelle l'IA peut apprendre à utiliser des armes chimiques ou biologiques, posant d'énormes risques pour les humains.

De plus, le rapport note que l'IA à usage général peut également transformer le marché du travail, déplaçant certains employés, bien que d'autres chercheurs s'accordent à dire que l'IA pourrait créer plus d'emplois qu'elle n'en supprime.

Le rapport a également exprimé des craintes concernant les systèmes d'IA échappant à tout contrôle pour deux raisons possibles : soit ils compromettent la supervision humaine, soit les humains prêtent moins attention.

Bengio a révélé que les 100 experts qui ont collaboré au rapport n'étaient pas toujours d'accord sur ce à quoi s'attendre de l'IA à l'avenir. L'un des désaccords portait sur le moment où l'IA surpasserait les capacités humaines sur différentes tâches.

« Ils sont également en désaccord sur les scénarios », a déclaré Bengio.

« Bien sûr, personne n'a de boule de cristal. Certains scénarios sont très bénéfiques. D'autres sont terrifiants. Je pense qu'il est vraiment important pour les décideurs politiques et le public de prendre conscience de cette incertitude. »

Bengio.

Le rapport, soutenu par plusieurs pays, bénéficie également du soutien de l'Union européenne. Cela survient alors que les dirigeants mondiaux, les leaders de la tech, les experts et la société civile sont attendus à nouveau au Sommet d'action sur l'IA à Paris. Les pays signeront une « déclaration commune » sur le développement de l'IA.