L'IA avancée pourrait engendrer de nouveaux risques extrêmes, selon un rapport d'experts publié en amont du sommet sur l'IA

Un rapport scientifique international récemment publié sur la sécurité de l'IA avancée montre que cette dernière pourrait être catastrophique et laisser derrière elle un cortège de souffrances et de douleurs pour l'humanité.

Selon l'AP, il s'agit du premier rapport international de ce type, publié mercredi en amont du sommet sur l'IA qui se tiendra à Paris en février, recensant les dangers posés par cette technologie en pleine expansion.

Les pays soutiennent le rapport scientifique international

Le rapport détaille certains dangers potentiels liés à l'intelligence artificielle avancée, notamment le risque de terrorisme et des pertes d'emplois massives. Ce phénomène est déjà observable, en particulier dans le secteur technologique où des milliers d'emplois ont disparu suite à l'automatisation des processus par les entreprises, notamment grâce à l'IA.

Selon l' AP, le rapport bénéficie du soutien de 30 pays, dont les États-Unis et la Chine, une rare collaboration entre les deux plus grandes économies mondiales. Ces deux pays s'affrontent farouchement pour la suprématie dans le domaine de l'IA. Cette semaine, la start-up chinoise DeepSeek a surpris le monde entier avec son chatbot à bas coût, malgré les restrictions strictes imposées par les États-Unis aux exportations chinoises.

L'étude, menée par l'éminent scientifique en intelligence artificielle Yoshua Bengio, est une fusion d'études existantes visant à guider les autorités dans l'élaboration de garde-fous pour cette technologie en pleine expansion.

« Les enjeux sont considérables », indique le rapport, qui souligne qu’il y a quelques années, les systèmes d’IA peinaient à produire un paragraphe cohérent. Toutefois, grâce aux récents progrès, l’IA est désormais capable de générer des images réalistes, des programmes informatiques et de tenir des conversations approfondies avec les utilisateurs.

D’après les chercheurs, les dangers de l’IA avancée se manifestent déjà lentement, tels que la désinformation, les deepfakes, les escroqueries et les biais.

« Nous devons mieux comprendre les systèmes que nous mettons en place et les risques qui y sont associés afin de pouvoir prendre de meilleures décisions à l'avenir. »

Bengio.

« À mesure que l’IA à usage général devient plus performante, des risques supplémentaires apparaissent progressivement », indique le rapport.

Cette annonce intervient la même semaine où le Vatican, de concert avec le groupe à l'origine de Doomsday Clock. Le rapport porte sur l'intelligence artificielle à usage général, illustrée par des modèles tels que ChatGPT d'OpenAI.

Le rapport a catégorisé les risques liés à l'IA avancée

Le rapport scientifique international classe les risques en trois catégories : l’utilisation malveillante, les dysfonctionnements et les risques systémiques généralisés. Les chercheurs ont étudié la facilité avec laquelle l’IA peut apprendre à utiliser des armes chimiques ou biologiques, ce qui représente un risque considérable pour l’humanité.

Par ailleurs, le rapport note que l'IA généraliste peut également transformer le marché du travail, en remplaçant certains employés, même si d'autres chercheurs s'accordent à dire que l'IA pourrait créer plus d'emplois qu'elle n'en supprime.

Le rapport exprimait également des craintes quant à un possible dérapage des systèmes d'IA pour deux raisons : soit ils compromettent la surveillance humaine, soit les humains y prêtent moins attention.

Bengio a révélé que les 100 experts réunis pour ce rapport n'étaient pas toujours d'accord sur les perspectives d'avenir de l'IA. Un point de désaccord portait notamment sur le moment où l'IA surpasserait les capacités humaines dans différentes tâches.

« Ils sont également en désaccord sur les scénarios », a déclaré Bengio.

« Bien sûr, personne ne possède de boule de cristal. Certains scénarios sont très avantageux. D'autres sont terrifiants. Je pense qu'il est vraiment important que les décideurs politiques et le public prennent en compte cette incertitude. »

Bengio.

Ce rapport, soutenu par plusieurs pays, bénéficie également de l'appui de l'Union européenne. Il intervient alors que des dirigeants mondiaux, des acteurs du secteur technologique, des experts et des représentants de la société civile sont attendus au Sommet de Paris sur l'action en matière d'IA. Les pays participants signeront une déclaration commune sur le développement de l'IA.