Sommet du gouvernement britannique sur l'IA : Promesses et réalité face aux menaces actuelles et futures

Le récent sommet sur l'IA, présidé par le chancelier britannique Rishi Sunak, a mis en lumière les ambitions du Royaume-Uni dans ce domaine. Si le sommet a souligné l'importance de se prémunir contre les risques futurs liés à l'IA, il n'a pas abordé la question urgente des préjudices qu'elle engendre et qui affectent déjà la société. 

Les dommages actuels négligés

Les forces de l'ordre et les entreprises privées déploient de plus en plus de systèmes de surveillance par reconnaissance faciale malgré leur taux d'erreur alarmant. Ces systèmes, reposant sur des algorithmes défectueux, discriminent de manière disproportionnée les femmes et les personnes de couleur. L'imprécision de cette technologie exacerbe les tensions et la méfiance entre la police et le public, comme on a pu le constater après des événements tels que les manifestations du mouvement Black Lives Matter et la veillée en hommage à Sarah Everard.

De plus, le gouvernement a profondément intégré l'IA dans les modèles de services publics, des algorithmes invisibles prenant des décisions cruciales sur des aspects clés de la vie publique. Le fiasco des notes du baccalauréat est un rappel brutal des ravages que peuvent causer des algorithmes défectueux, laissant d'innombrablesdentavec des résultats arbitraires. Le ministère du Travail et des Pensions a également été critiqué pour l'utilisation d'algorithmes secrets, intrusifs et discriminatoires qui influent sur l'accès au logement, aux prestations sociales et aux aides au paiement de la taxe d'habitation. Ces algorithmes automatisent les préjugés et désavantagent les Britanniques les plus pauvres, illustrant les conséquences concrètes d'une IA non contrôlée dans les services publics.

Réglementation future de l'IA et projet de loi sur la protection des données

Si les discussions sur la réglementation future de l'IA sont cruciales, il est tout aussi essentiel de s'attaquer aux problèmes actuels et d'atténuer les préjudices causés par les systèmes d'IA existants. Les droits humains et la protection des données demeurent les remparts les plus efficaces contre les menaces que représente l'IA. Or, le gouvernement britannique fait adopter par le Parlement un projet de loi sur la protection des données qui risque de fragiliser ces protections fondamentales.

Le projet de loi sur la protection des données s'écarte des tendances réglementaires européennes en matière d'IA et réduit drastiquement les garanties juridiques, exposant ainsi le public aux conséquences discriminatoires de l'IA. Il menace de normaliser la prise de décision automatisée à grande échelle, augmentant la probabilité que des décisions concernant des individus soient fondées uniquement sur des prédictions binaires, sans intervention humaine, sans empathie ni respect de la dignité. Les communautés vulnérables et marginalisées risquent d'être touchées de manière disproportionnée par ces évolutions, car leur vie privée et leur égalité sont mises en péril.

La nécessité d'agir

Le gouvernement britannique est confronté à un choix crucial concernant sa politique en matière d'IA. Si les engagements pris lors des sommets de haut niveau soulignent l'importance de la protection future de l'IA, le gouvernement doit donner la priorité à la lutte contre les menaces actuelles liées à l'IA. De simples déclarations d'intention ne suffiront pas ; les garanties juridiques doivent être protégées et renforcées.

Le sommet britannique sur l'IA, dirigé par Rishi Sunak, a attiré l'attention internationale sur les ambitions du pays dans ce domaine. Si l'attention portée par le gouvernement aux risques futurs liés à l'IA est essentielle, il ne doit pas ignorer les préjudices concrets engendrés par les systèmes d'IA existants. Les erreurs de reconnaissance faciale et les algorithmes gouvernementaux opaques ont déjà des répercussions sur la société, entraînant discrimination, méfiance et décisions arbitraires. De plus, le projet de loi sur la protection des données menace de fragiliser les droits humains et les lois sur la protection des données, exposant davantage le public aux risques liés à l'IA. Le gouvernement doit privilégier l'action à la rhétorique, en préservant les protections juridiques existantes et en relevant les défis urgents posés par l'IA aujourd'hui. Dans sa quête d'un leadership mondial en IA, le Royaume-Uni ne doit pas oublier les combats immédiats qu'il doit mener pour se prémunir contre les menaces automatisées et protéger ses citoyens.