Le gouvernement britannique manque de transparence quant à son utilisation de l'IA, déclare le secrétaire d'État à la Technologie

Le gouvernement britannique n'inscrirait pas son utilisation des systèmes d'IA sur les registres obligatoires, ce qui soulève des inquiétudes quant à la transparence.

Selon The Guardian, le secrétaire d'État à la Technologie a depuis admis que les ministères manquent de transparence quant à leur utilisation de l'IA et des algorithmes, malgré le fait que divers ministères les utilisent à des fins diverses.

Les ministères britanniques « naviguent à vue » quant à leur utilisation de l'IA

L' article du Guardian révèle qu'aucun ministère n'a mentionné l'utilisation de l'IA depuis que le gouvernement a annoncé son caractère obligatoire. Cette situation suscite des inquiétudes quant à l'approche du secteur public, qui semble « naviguer à vue ».

Cette situation survient alors que des ministères britanniques utilisent déjà l'IA, par exemple, pour éclairer leurs décisions concernant des sujets aussi variés que les prestations sociales et l'application des lois sur l'immigration. Selon le Guardian, certains documents montrent que des organismes publics ont attribué destracpour des services algorithmiques d'IA.

Par exemple, l’organisme chargé des achats de la police a récemment lancé untracd’offres pour un contrat de reconnaissance faciale d’une valeur de 20 millions de dollars, ce qui a encore accru les inquiétudes concernant la « surveillance biométrique de masse »

Cependant, seuls neuf systèmes algorithmiques ont été inscrits au registre public, aucun des programmes d'IA, pourtant de plus en plus nombreux, utilisés dans le système de protection sociale par le ministère de l'Intérieur ou par la police. En février, le gouvernement britannique a annoncé que l'utilisation de registres d'IA serait désormais obligatoire pour tous les ministères.

Interrogé sur le manque de transparence, le secrétaire d'État à la Science et à la Technologie, Peter Kyle, a admis que le secteur public « n'a pas pris suffisamment au sérieux la nécessité d'être transparent dans la manière dont le gouvernement utilise les algorithmes »

« J’admets que si le gouvernement utilise des algorithmes au nom du public, ce dernier a le droit de le savoir. »

Kyle.

« Le public doit avoir le sentiment que les algorithmes sont là pour le servir et non l’inverse. La seule façon d’y parvenir est de faire preuve de transparence quant à leur utilisation », a ajouté Kyle.

Le gouvernement britannique a ignoré les avertissements

Selon un article du Guardian, des experts ont mis en garde contre les dangers d'une adoption sans discernement de l'IA, citant comme exemples récents de systèmes informatiques ne fonctionnant pas comme prévu le logiciel Horizon de la Poste.

L'utilisation de l'intelligence artificielle à Whitehall s'étend du système Copilot de Microsoft aux contrôles automatisés de fraude et d'erreur dans le système de prestations sociales. Un autre avis detracrécent concernant l'IA, publié par le ministère du Travail et des Pensions (DWP), décrit « un intérêt croissant au sein du DWP, qui reflète celui du gouvernement et de la société en général »

Outre la police, le ministère de l'Intérieur utilise également un système de contrôle de l'immigration basé sur l'intelligence artificielle. Ce système, que ses détracteurs qualifient de « robot-agent », participe à la prise de décisions, notamment concernant le renvoi des personnes dans leur pays d'origine.

Le gouvernement le qualifie toutefois de système « fondé sur des règles », par opposition à un système d'IA, car il n'implique pas d'apprentissage automatique à partir de données. Selon le gouvernement, cela permet des gains d'efficacité, même si un humain reste responsable de chaque décision.

Le NHS anglais aurait également signé untracde 330 millions de livres sterling avec Palantir pour la création d'une immense plateforme de données, ce qui alimente les inquiétudes concernant la confidentialité des données des patients. Palantir affirme que les patients conservent le contrôle de leurs données.

L'association de défense des droits à la vie privée Big Brother Watch a souligné que l'apparition du contrat de reconnaissance faciale de la policetracmalgré les avertissements des députés concernant l'absence de législation pour le réglementer, montrait le manque de transparence du gouvernement quant à l'utilisation de la technologie d'IA.

« L’utilisation secrète de l’IA et des algorithmes pour impacter la vie des gens met en péril les droits de chacun en matière de données », a déclaré Madeleine Stone, responsable du plaidoyer.

« Les ministères doivent faire preuve de transparence et d’honnêteté quant à la manière dont ils utilisent cette technologie. »

Pierre.

Imogen Parker, directrice adjointe de cet organisme de recherche sur les données et l'IA, a également exprimé ses inquiétudes quant au manque de transparence.

« Le manque de transparence ne se contente pas de maintenir le public dans l’ignorance, il signifie également que le secteur public navigue à vue dans son adoption de l’IA. »

Parker.

« Le fait de ne pas publier les données de transparence algorithmique limite la capacité du secteur public à déterminer si ces outils fonctionnent, à tirer des leçons de ce qui ne fonctionne pas et à surveiller les différents impacts sociaux de ces outils », a ajouté Parker.