Les dangers de la dépendance à l’égard de l’intelligence artificielle : un conte d’avertissement

Dans le domaine des mésaventures de la vie, il y a les petites erreurs de l’intelligence artificielle, et puis il y a les fautes impardonnables. La démission récente du député et président de la Chambre des communes, Anthony Rota, sert de rappel éclatant de ces dernières. Le départ de Rota est survenu sous une pression considérable, et la raison derrière celui-ci a laissé toute la nation canadienne et la communauté internationale sous le choc.

Les pièges de la confiance aveugle en l’IA

Anthony Rota avait invité un vétéran de la Seconde Guerre mondiale à un événement parlementaire, pour découvrir plus tard que ce vétéran avait été membre d’une unité militaire ayant combattu aux côtés des nazis. La révélation a été choquante lorsque tout le Parlement canadien, ignorant cette histoire sombre, a applaudi le vétéran. Cet événement est désormais une source de honte internationale pour le Canada, provoquant l’indignation de diverses factions politiques, y compris les députés libéraux, l’opposition et le NPD.

Les questions qui persistent incluent la nature des actes de Rota : s’agissait-il d’une négligence grave, d’un résultat de l’ignorance ou d’un calcul politique erroné ? Indépendamment des raisons sous-jacentes, une chose reste claire : une part importante de ce désastre peut être attribuée à un manque fondamental de vérification, à l’échec de poser les questions de base sur l’identité de cette personne et sur ce qu’impliquait son histoire. Dans le domaine des informations utiles, déterminer si quelqu’un avait des affiliations avec les nazis est sans aucunement primordial.

Alors que nous analysons cet incident, il est difficile de ne pas réfléchir à l’évolution du paysage de la diffusion de l’information, qui présente ses propres défis. Avec l’avènement de l’intelligence artificielle (IA), nous avons désormais accès à ce qui semble être une source d’information fiable, mais les apparences peuvent être trompeuses. L’IA s’infiltre rapidement dans divers aspects de nos vies, de la recherche à la création de feuilles de calcul et de présentations. Dans ce contexte, l’importance de la vérification des informations ne peut être surestimée, de peur de nous retrouver pris dans des embarras mineurs ou majeurs.

La principale préoccupation découle de la tendance croissante à mettre en œuvre des outils qui analysent les données ou fournissent des informations basées sur des invites. Les géants de la technologie, y compris Microsoft, Google, Meta (anciennement Facebook) et Amazon, investissent massivement dans l’IA. OpenAI, le créateur de ChatGPT, l’une des technologies d’IA les plus renommées, a obtenu un financement substantiel, en particulier de la part de Microsoft, qui intègre des assistants IA dans ses produits phares, y compris la suite logicielle Office omniprésente.

Cependant, le nom « intelligence artificielle » peut être trompeur. À sa base, l’IA contemporaine repose sur de grands modèles de langage (LLM). Ces LLM excellent dans la reconnaissance des motifs linguistiques, puisant dans l’immense pool de contenu disponible en ligne. Par conséquent, lorsque vous demandez à un assistant IA de générer un itinéraire de voyage ou de créer une présentation, il peut effectuer ces tâches de manière remarquable. Essentiellement, il agrège et synthétise le contenu en ligne en réponses cohérentes.

Cependant, il existe une limitation critique de l’IA : elle ne possède pas de véritable compréhension. Au lieu de cela, elle fonctionne en rassemblant des informations et en reconnaissant à quoi pourrait ressembler une réponse correcte. Cette limitation inhérente explique pourquoi les assistants IA fournissent souvent des informations incorrectes. Par exemple, ils peuvent offrir des explications mathématiques erronées ou renvoyer des données obsolètes.

L’irrégularité de l’IA devient encore plus préoccupante à mesure qu’elle devient de plus en plus omniprésente. L’annonce récente de Microsoft concernant Copilot, un assistant IA pour Windows et Office, est un témoignage de cette tendance. Bien que Copilot puisse être extrêmement utile dans des tâches comme les calculs de feuilles de calcul et la conception de diapositives, s’y fier pour la récupération d’informations, telles que l’analyse des données de vente ou l’intégration de données web dans des présentations, peut conduire à des situations précaires.

En résumé, l’IA est intrinsèquement peu fiable et sujette aux imprécisions. Une dépendance excessive à l’IA pour des tâches qui ont un impact sur autrui et sont rémunérées financièrement comporte un risque élevé d’embarras et d’erreur.

L’IA sur le lieu de travail : une épée à double tranchant

En littérature, le concept du narrateur peu fiable est un trope couramment utilisé – un personnage dont le récit ne peut être fait confiance pour diverses raisons. En tant qu’enseignant, j’instruis souvent mes étudiants que, bien que cela puisse être frustrant, la lecture critique est essentielle. Faire aveuglément confiance à une voix autoritaire n’est pas une approche prudente.

Ce principe s’applique également à l’IA. Les conséquences pratiques des imprécisions, des biais et des lacunes de jugement de l’IA sont tangibles et de grande ampleur. Alors que la société s’efforce de déterminer comment répondre à ce nouveau paysage technologique, le conseil aux individus est clair et simple :

Reformulez et développez : La situation avec l’IA est très similaire à la gestion de narrateurs peu fiables en littérature. Cependant, les conséquences réelles des mensonges, des erreurs et des lacunes de jugement de l’IA sont bien réelles.

Dans cette ère en évolution rapide de l’IA, la vigilance, la pensée critique et une dépendance prudente à la technologie sont primordiales. L’allure de l’IA en tant que source d’information rapide et efficace ne doit pas occulter l’importance de la vérification et de la recoupement des informations. Dans la quête de précision et de fiabilité, nous devons nous rappeler que l’IA, bien que puissante, n’est pas infaillible.