Un chercheur de Boston soutient que les angoisses catastrophiques liées à l'IA sont exagérées et mal orientées

Les universitaires du Centre d'éthique appliquée de l'UMass Boston étudient l'impact de l'engagement avec l'IA sur la compréhension que les gens ont d'eux-mêmes, et Nir Eisikovits croit particulièrement que ces angoisses catastrophistes sont exagérées et mal dirigées. Bien qu'il existe de grands problèmes humains (non causés par l'IA, mais par les humains), ils nécessitent l'attention des décideurs politiques. L'argument est que ces problèmes existent depuis un certain temps et ne sont guère cataclysmiques.

Au cours des derniers mois, l'essor de l'IA, illustré par des systèmes comme ChatGPT, a suscité une anxiété généralisée quant à ses dangers potentiels. Certains ont même exprimé des peurs existentielles et des scénarios catastrophiques, comparant l'IA à des pandémies et à la guerre nucléaire. Nir propose particulièrement le concept selon lequel le véritable danger réside dans l'érosion subtile des qualités humaines essentielles, ce qui invite à réévaluer ce que signifie être humain à l'ère de l'IA.

Remettre en question les scénarios catastrophistes

Bien que des expériences de pensée comme le « maximiseur de trombones » aient été utilisées pour illustrer les risques potentiels, la réalité est que les applications d'IA existantes sont loin de posséder la capacité de provoquer des catastrophes à grande échelle. Ces scénarios, bien qu'intéressants, appartiennent davantage au domaine de la science-fiction qu'à celui des menaces imminentes. Les systèmes d'IA actuels se concentrent sur des tâches spécifiques et manquent du jugement sophistiqué et de l'accès aux infrastructures critiques requis pour les exemples extrêmes avancés.

Plutôt que des événements cataclysmiques, le véritable danger réside dans la transformation progressive de l'existence humaine par l'intégration croissante de l'IA. Les technologies d'IA existantes ont déjà démontré leur potentiel de nuisance, comme la création de médias deepfake convaincants et la perpétuation des biais algorithmiques dans les systèmes de prise de décision. Ces problèmes nécessitent l'attention et la réglementation des décideurs politiques, mais ils ne constituent pas des menaces existentielles pour l'humanité.

L'affaiblissement des qualités humaines

Le professeur Nir Eisikovits soutient que le danger existentiel posé par l'IA est d'une nature différente – c'est un risque philosophique. L'IA a le potentiel de modifier la façon dont les individus se perçoivent eux-mêmes et peut éroder progressivement des capacités et des expériences humaines fondamentales. L'une de ces capacités est la prise de jugement, un trait profondément ancré dans la nature humaine. À mesure que davantage de jugements sont automatisés et délégués aux algorithmes, les personnes peuvent perdre la capacité de les rendre elles-mêmes, ce qui entraîne un déclin de leur capacité à raisonner et à prendre des décisions éclairées.

Un autre aspect crucial de l'existence humaine que l'IA impacte est le rôle du hasard et de la sérendipité. Les humains valorisent les rencontres inattendues et l'élément de surprise dans leur vie, yet les systèmes de recommandation algorithmiques visent à minimiser ces expériences sérendipiteuses en s'appuyant sur la prévisibilité et la planification. Le remplacement progressif du hasard par des algorithmes pourrait priver les individus de découvertes significatives et inattendues.

De plus, l'avancement des capacités d'écriture de l'IA soulève des inquiétudes quant au déclin des compétences de pensée critique. Si la technologie IA remplace les devoirs d'écriture dans l'enseignement supérieur, les éducateurs pourraient perdre un outil précieux pour enseigner aux étudiants comment penser de manière critique et s'exprimer efficacement.

L'importance d'une intégration réfléchie

Bien que l'IA ne pose pas une menace catastrophiste imminente, l'adoption et l'intégration non critiques de l'IA dans divers domaines comportent des conséquences. Le professeur Eisikovits met en garde : si ces développements continuent sans contrôle, les compétences humaines, telles que la prise de jugement, l'appréciation des rencontres fortuites et la pensée critique, s'affaibliront avec le temps. Bien que l'espèce humaine survivra à ces pertes, la qualité de l'existence humaine s'en trouvera appauvrie.

Au milieu des angoisses croissantes entourant l'IA, il est crucial de différencier les scénarios catastrophistes exagérés des risques philosophiques associés à son intégration dans la société. Bien qu'il soit peu probable que l'IA provoque une fin apocalyptique, l'érosion des qualités humaines essentielles est une préoccupation réelle. En reconnaissant et en adressant les coûts subtils de l'IA, les décideurs politiques, les chercheurs et la société dans son ensemble peuvent s'assurer que les technologies de l'IA sont intégrées de manière réfléchie pour améliorer l'existence humaine plutôt que de la diminuer.

Nir Eisikovits est professeur de philosophie et directeur fondateur du Centre d'éthique appliquée. Avant de rejoindre l'UMass Boston, il était professeur agrégé de philosophie juridique et politique à l'Université Suffolk, où il a cofondé et dirigé le programme de troisième cycle en éthique et politiques publiques. Les recherches du professeur Eisikovits se concentrent sur les dilemmes moraux et politiques qui surviennent après la guerre. Il est l'auteur de « A Theory of Truces » (Palgrave MacMillan) et de « Sympathizing with the Enemy: Reconciliation, Transitional Justice, Negotiation » (Brill) et co-rédacteur de « Theorizing Transitional Justice » (Routledge). Il est également rédacteur invité pour un numéro récent de Theoria sur « L'idée de paix à l'âge de la guerre asymétrique ». En savoir plus à son sujet.