Sommet de l'IA du gouvernement britannique : Promesses vs. Réalité face aux menaces actuelles et futures

Le récent sommet sur l'IA dirigé par le chancelier britannique Rishi Sunak a attiré l'attention mondiale sur les ambitions du Royaume-Uni dans le domaine de l'intelligence artificielle. Bien que le sommet ait souligné l'importance de se protéger contre les risques futurs de l'IA, il n'a pas abordé la question pressante des dommages générés par l'IA qui affectent déjà la société. 

Les dommages présents négligés

Les agences de police et les entreprises privées ont de plus en plus déployé des systèmes de surveillance par reconnaissance faciale malgré leurs taux d'inexactitude alarmants. Ces systèmes, soutenus par des algorithmes défectueux, ont discriminé de manière disproportionnée les femmes et les personnes de couleur. La technologie de reconnaissance faciale inexacte exacerbe les tensions et la méfiance entre la police et le public, comme on l'a observé après des événements tels que les manifestations Black Lives Matter et la vigile pour Sarah Everard.

De plus, le gouvernement a intégré l'IA en profondeur dans les modèles de services publics, avec des algorithmes cachés prenant des décisions critiques sur des aspects clés de la vie publique. Le fiasco des notes de niveau A est un rappel frappant du chaos que peuvent provoquer les algorithmes défectueux, laissant d'innombrables étudiants avec des résultats arbitraires. Le Département du travail et des retraites a également été critiqué pour avoir utilisé des algorithmes secrets, intrusifs et discriminatoires qui affectent l'accès des personnes au logement, aux prestations sociales et à l'aide pour l'impôt sur les conseils municipaux. Ces algorithmes automatisent les biais et désavantagent les pauvres de Grande-Bretagne, mettant en évidence les conséquences réelles de l'IA incontrôlée dans les services publics.

Régulation future de l'IA et projet de loi sur la protection des données

Bien que les discussions sur la régulation future de l'IA soient cruciales, il est tout aussi essentiel d'aborder les problèmes actuels et d'atténuer les dommages causés par les systèmes d'IA existants. Les lois sur les droits humains et la protection des données restent les sauvegardes les plus efficaces contre les menaces de l'IA. Cependant, le gouvernement britannique pousse un projet de loi sur la protection des données au Parlement qui menace de saper ces protections fondamentales.

Le projet de loi sur la protection des données s'écarte des tendances européennes en matière de régulation de l'IA et réduit les garanties juridiques, laissant le public exposé à l'impact discriminatoire de l'IA. Il menace de normaliser la prise de décision automatisée à grande échelle, augmentant la probabilité de décisions concernant des individus basées uniquement sur des prédictions binaires sans implication humaine, empathie ou dignité. Les communautés vulnérables et marginalisées sont susceptibles d'être touchées de manière disproportionnée par ces développements, car leur vie privée et leur égalité sont mises en danger.

Le besoin d'action

Le gouvernement britannique fait face à un choix critique concernant ses politiques en matière d'IA. Bien que les engagements de sommet de haut niveau soulignent l'importance des protections futures de l'IA, le gouvernement doit prioriser l'adressage des menaces actuelles de l'IA. De simples gestes performatifs ne suffiront pas ; les garanties juridiques doivent être protégées et renforcées.

Le sommet de l'IA du Royaume-Uni dirigé par Rishi Sunak a attiré l'attention mondiale sur les ambitions du pays dans le domaine de l'IA. Bien que la concentration du gouvernement sur les risques futurs de l'IA soit essentielle, il ne doit pas ignorer les dommages réels générés par les systèmes d'IA existants. Les inexactitudes de la reconnaissance faciale et les algorithmes gouvernementaux cachés affectent déjà la société, entraînant discrimination, méfiance et résultats arbitraires. De plus, le projet de loi proposé sur la protection des données menace de saper les droits humains et les lois sur la protection des données, exposant davantage le public aux risques liés à l'IA. Le gouvernement doit prioriser l'action plutôt que la rhétorique, en sauvegardant les protections juridiques déjà en place et en adressant les défis pressants posés par l'IA dans le présent. En poursuivant le leadership mondial en IA, le Royaume-Uni ne doit pas oublier les batailles immédiates auxquelles il fait face pour se protéger contre les menaces automatisées et protéger ses citoyens.