Redéfinir la régulation de l'IA en se concentrant sur les préjudices réels plutôt que sur les menaces hyperboliques

L'Intelligence Artificielle (IA) a dépassé le cadre de la science-fiction pour entrer dans notre vie quotidienne, apportant à la fois des avantages et des risques. Bien que les discussions sur le potentiel de l'IA à représenter une menace existentielle pour l'humanité aient capté l'attention des médias, la véritable préoccupation réside dans les préjudices immédiats et tangibles que les technologies de l'IA causent déjà. Des arrestations injustifiées à la discrimination algorithmique, l'attention doit passer du sensationnalisme à une science fondée qui examine les dangers réels.

Démasquer les véritables menaces

Plutôt que de céder à l'attrait de la rhétorique sensationnaliste, l'accent devrait être mis sur les préjudices réels que les technologies de l'IA infligent aujourd'hui. Les arrestations injustifiées, l'expansion des réseaux de surveillance et la prolifération de la pornographie deepfake ne sont pas des scénarios hypothétiques ; ce sont des conséquences réelles des outils d'IA actuellement disponibles sur le marché. La montée des pratiques discriminatoires dans le logement, la justice pénale et les soins de santé, ainsi que la propagation de la haine et de la désinformation, soulignent les questions pressantes liées à l'impact actuel de l'IA.

Démanteler l'hype

De nombreuses entreprises d'IA ont tendance à privilégier les récits dramatiques aux préjudices tangibles lorsqu'elles discutent des risques potentiels de l'IA. La récente déclaration du Center for AI Safety, cosignée par des leaders de l'industrie, concernant le risque d'extinction par l'IA, a suscité des inquiétudes quant à des priorités mal placées. Le récit entourant le « risque existentiel » détourne l'attention de la nécessité urgente de traiter les préjudices très réels qui émergent déjà.

Le besoin de définitions claires

Le terme « IA » lui-même est devenu un fourtout ambigu, englobant divers sens allant d'un sous-domaine de l'informatique à une solution magique énigmatique pour les entreprises. Cette ambiguïté complique les discussions significatives. Aujourd'hui, les modèles de synthèse de texte comme ChatGPT dominent le paysage de l'IA. Ces modèles génèrent du texte cohérent mais manquent de compréhension et de capacités de raisonnement, les rendant plus semblables à des chatbots sophistiqués qu'à de véritables entités intelligentes.

Le problème du texte synthétique

Bien que les modèles de synthèse de texte produisent du texte convaincant, ils manquent de compréhension véritable, rendant leurs sorties potentiellement trompeuses et nuisibles. La prolifération du texte synthétique exacerbe la désinformation et les biais présents dans leurs données d'entraînement, amplifiant les préjugés sociétaux. Le défi réside dans la distinction entre le texte synthétique et les sources d'information crédibles, une tâche qui devient plus difficile à mesure que le texte synthétique se répand.

L'IA comme solution ? Ou comme préjudice ?

La technologie de synthèse de texte est souvent saluée comme une solution à divers lacunes sociétales, telles que l'éducation, les soins de santé et les services juridiques. Cependant, la réalité est différente. La technologie exploite souvent le contenu créé par des artistes et des auteurs sans compensation appropriée, et le processus d'étiquetage des données pour l'entraînement de l'IA implique des travailleurs de gig economy sous-payés soumis à de dures conditions de travail. De plus, la poursuite de l'automatisation entraîne des pertes d'emplois et une précarité de l'emploi, en particulier dans des secteurs comme le divertissement.

Le rôle de la politique fondée sur la science

La politique en matière d'IA doit être ancrée dans une recherche solide et une préoccupation genuine pour le bien-être de la société. Malheureusement, de nombreuses publications sur l'IA proviennent de sources financées par les entreprises ou l'industrie, ce qui conduit à des pratiques de recherche douteuses. Il est impératif de recentrer l'attention sur la recherche qui examine les préjudices réels perpétrés par les systèmes d'IA. Ceux-ci incluent l'accumulation incontrôlée de données et de puissance de calcul, les coûts environnementaux de l'entraînement de l'IA et l'exacerbation des inégalités sociales.

Recentrer sur la recherche genuine

Les décideurs politiques doivent prioriser une recherche rigoureuse qui explore les préjudices et les risques de l'IA, ainsi que les conséquences de la délégation d'autorité aux systèmes automatisés. Cette recherche devrait englober l'analyse des sciences sociales et la construction de théories, favorisant une compréhension plus profonde des impacts sociétaux de l'IA. Les politiques basées sur une telle recherche garantiront que l'attention reste centrée sur la résolution des problèmes réels auxquels les communautés marginalisées font face en raison des technologies de l'IA.

Alors que l'IA continue de façonner notre monde, l'accent devrait passer des menaces existentielles sensationnalisées aux préjudices immédiats que les technologies de l'IA causent. Les arrestations injustifiées, la discrimination algorithmique et la propagation de la haine font partie des conséquences graves des outils d'IA aujourd'hui. Se concentrer sur une science fondée et une recherche solide permettra aux décideurs politiques de traiter ces questions pressantes et de garantir que les technologies de l'IA bénéficient à la société sans causer de préjudice indû.