Le gouvernement britannique n'est pas transparent sur son utilisation de l'IA, déclare le Secrétaire à la Technologie

Selon les rapports, le gouvernement britannique ne liste pas son utilisation des systèmes d'IA sur des registres obligatoires, soulevant des préoccupations concernant des problèmes de transparence.

Selon The Guardian, le Secrétaire à la Technologie a depuis admis que les départements ne sont pas transparents concernant leur utilisation de l'IA et des algorithmes, malgré l'utilisation de ceux-ci par divers départements gouvernementaux à diverses fins.

Les départements du gouvernement britannique « volent à l'aveugle » concernant leur utilisation de l'IA

The Guardian article révèle qu'aucun département n'a listé l'utilisation de l'IA depuis que le gouvernement a indiqué qu'elle deviendrait obligatoire. Cela a soulevé des préoccupations selon lesquelles le secteur public « vole à l'aveugle ».

Cela survient alors que les départements gouvernementaux au Royaume-Uni utilisent déjà l'IA, par exemple, pour éclairer les décisions sur tout, des paiements d'aides à l'application des règles d'immigration. Selon The Guardian, certains documents montrent que des organismes publics ont attribué des contrats pour des services algorithmiques d'IA.

Par exemple, l'organe d'achat de la police a récemment mis en adjudication un contrat de reconnaissance faciale d'une valeur de 20 millions de dollars, augmentant davantage les préoccupations concernant la « surveillance biométrique de masse ».

Cependant, seuls neuf systèmes algorithmiques ont été soumis à un registre public, aucun des nombreux programmes d'IA utilisés dans le système de protection sociale par le Home Office ou par la police. En février, le gouvernement britannique a annoncé que l'utilisation de registres d'IA serait désormais une « exigence pour tous les départements gouvernementaux ».

Interrogé sur le manque de transparence, le Secrétaire d'État à la Science et à la Technologie, Peter Kyle, a admis que le secteur public « n'a pas pris au sérieux suffisamment le besoin d'être transparent dans la façon dont le gouvernement utilise les algorithmes ».

« J'accepte que si le gouvernement utilise des algorithmes au nom du public, le public a le droit de le savoir. »

Kyle.

« Le public doit avoir le sentiment que les algorithmes sont là pour le servir et non l'inverse. La seule façon d'y parvenir est d'être transparent sur leur utilisation », a ajouté Kyle.

Le gouvernement britannique a ignoré les avertissements

Selon l'article de The Guardian, des experts ont mis en garde contre les dangers de l'IA si elle est adoptée sans critique, avec des exemples récents de systèmes informatiques ne fonctionnant pas comme prévu, notamment le logiciel Horizon de la Poste.

L'utilisation de la technologie IA à Whitehall s'étend du système Copilot de Microsoft aux vérifications automatiques de fraude et d'erreur dans le système d'aides. Un autre avis récent de contrat d'IA du Département du Travail et des Pensions (DWP) décrivait « un essor de l'intérêt au sein du DWP, qui reflète celui du gouvernement et de la société dans leur ensemble ».

Outre la police, le Home Office utilise également un système de contrôle de l'immigration alimenté par l'IA. Ce système, que les critiques appellent un « robo-caseworker », est impliqué dans la formulation de décisions, y compris le renvoi de personnes dans leur pays d'origine.

Le gouvernement l'a toutefois décrit comme un système « basé sur des règles » par opposition à un système d'IA car il n'implique pas d'apprentissage automatique à partir de données. Selon le gouvernement, cela apporte des efficacités bien qu'un humain reste responsable de chaque décision.

NHS England est également rapporté être dans un contrat de 330 millions de livres sterling avec Palantir pour construire une nouvelle plateforme de données massive, augmentant davantage les préoccupations concernant la vie privée des patients. Palantir a déclaré que les patients conservent le contrôle des données.

Un groupe de campagne pour les droits à la vie privée, Big Brother Watch, a souligné que l'émergence du contrat de reconnaissance faciale de la police, malgré les avertissements des MPs concernant le manque de législation pour le réglementer, montrait le manque de transparence du gouvernement quant à l'utilisation de la technologie IA.

« L'utilisation secrète de l'IA et des algorithmes pour influencer la vie de chacun met en danger les droits à la données de tout le monde », a déclaré Madeleine Stone, directrice principale de l'advocacy.

« Les départements gouvernementaux doivent être ouverts et honnêtes sur la façon dont ils utilisent cette technologie. »

Stone.

La directrice associée de l'organisme de recherche sur les données et l'IA, Imogen Parker, a également exprimé des préoccupations concernant le manque de transparence.

« Le manque de transparence ne tient pas seulement le public dans l'ignorance, cela signifie également que le secteur public vole à l'aveugle dans son adoption de l'IA. »

Parker.

« Ne pas publier les registres de transparence algorithmique limite la capacité du secteur public à déterminer si ces outils fonctionnent, à apprendre de ce qui ne fonctionne pas, et à surveiller les différents impacts sociaux de ces outils », a ajouté Parker.