Le gouvernement britannique n’inscrirait pas son utilisation des systèmes d’IA dans les registres obligatoires, ce qui soulève des inquiétudes quant aux problèmes de transparence.
Selon The Guardian, le secrétaire à la Technologie a depuis admis que les ministères ne sont pas transparents quant à leur utilisation de l'IA et des algorithmes, bien que les différents ministères les utilisent à diverses fins.
Les ministères britanniques « volent à l’aveugle » quant à leur utilisation de l’IA
L’ article du Guardian révèle qu’aucun ministère n’a mentionné l’utilisation de l’IA depuis que le gouvernement a indiqué qu’elle deviendrait obligatoire. Cela a fait craindre que le secteur public « vole à l’aveugle ».
Cela survient alors que les ministères britanniques utilisent déjà l’IA, par exemple, pour éclairer leurs décisions dans tous les domaines, depuis le paiement des prestations jusqu’à l’application des lois en matière d’immigration. Selon The Guardian, certains documents montrent que des organismes publics ont attribué des trac pour des services algorithmiques d’IA.
Par exemple, l’organisme chargé des achats de la police a récemment signé un trac pour la reconnaissance faciale d’une valeur de 20 millions de dollars, soulevant encore davantage les inquiétudes concernant la « surveillance biométrique de masse ».
Cependant, seuls neuf systèmes algorithmiques ont été soumis à un registre public, et aucun des nombreux programmes d’IA utilisés dans le système de protection sociale par le ministère de l’Intérieur ou par la police. En février, le gouvernement britannique a annoncé que l’utilisation de registres d’IA serait désormais une « exigence pour tous les ministères ».
Interrogé sur le manque de transparence, le secrétaire d'État à la Science et à la Technologie, Peter Kyle, a admis que le secteur public « n'a pas pris suffisamment au sérieux la nécessité d'être transparent dans la manière dont le gouvernement utilise les algorithmes ».
"J'accepte que si le gouvernement utilise des algorithmes au nom du public, celui-ci a le droit de savoir."
Kyle.
« Le public doit sentir que les algorithmes sont là pour le servir et non l’inverse. La seule façon d’y parvenir est d’être transparent quant à leur utilisation », a ajouté Kyle.
Le gouvernement britannique a ignoré les avertissements
Selon l'article du Guardian, les experts ont mis en garde contre les dangers de l'IA si elle est adoptée sans réserve, avec des exemples récents de systèmes informatiques ne fonctionnant pas comme prévu, notamment le logiciel Horizon de la Poste.
L'utilisation de la technologie de l'IA à Whitehall s'étend du système Copilot de Microsoft aux contrôles automatisés de fraude et d'erreurs dans le système d'avantages sociaux. Un autre récent avis de trac d’IA du ministère du Travail et des Retraites (DWP) décrivait « un intérêt croissant au sein du DWP, qui reflète celui du gouvernement et de la société dans son ensemble ».
Outre la police, le ministère de l’Intérieur utilise également un système de contrôle de l’immigration basé sur l’IA. Ce système, que les critiques qualifient de « robot-assistant social », participe à l’élaboration des décisions, notamment au retour des personnes dans leur pays d’origine.
Le gouvernement l’a cependant décrit comme un système « basé sur des règles » par opposition à un système d’IA, car il n’implique pas d’apprentissage automatique à partir de données. Selon le gouvernement, cela apporte des gains d'efficacité même si un humain reste responsable de chaque décision.
Le NHS England aurait également conclu un trac de 330 millions de livres avec Palantir pour construire une énorme nouvelle plate-forme de données, ce qui soulève encore davantage d'inquiétudes quant à la vie privée des patients. Palantir a déclaré que les patients conservent le contrôle des données.
Un groupe de défense du droit à la vie privée, Big Brother Watch, a souligné que l'émergence du contrat de reconnaissance faciale de la police trac malgré les avertissements des députés sur l'absence de législation pour le réglementer, montrait le manque de transparence du gouvernement sur l'utilisation de la technologie de l'IA.
« L'utilisation secrète de l'IA et des algorithmes pour avoir un impact sur la vie des gens met en danger les droits de chacun en matière de données », a déclaré Madeleine Stone, directrice du plaidoyer.
« Les ministères doivent être ouverts et honnêtes sur la manière dont ils utilisent cette technologie. »
Pierre.
Directrice associée de l'organisme de recherche sur les données et l'IA, Imogen Parker a également exprimé ses inquiétudes quant au manque de transparence.
« Le manque de transparence ne fait pas que maintenir le public dans l’ignorance, cela signifie également que le secteur public adopte aveuglément l’IA. »
Parker.
Recherche...
Décrocher un emploi Web3 bien rémunéré en 90 jours : la feuille de route ultime
