Les agences de renseignement du Royaume-Uni plaident pour une assouplissement de la réglementation de l'IA dans le contexte des préoccupations liées à la surveillance

Les agences de renseignement du Royaume-Uni, y compris le MI5 et le MI6, exhorteraient le gouvernement britannique à adopter une approche plus légère en matière de réglementation de l'intelligence artificielle (IA). Cela fait suite à un examen indépendant commandé par le ministère de l'Intérieur britannique pour évaluer les modifications potentielles à la loi de 2016 sur les pouvoirs d'enquête (IPA), qui régit la manière dont les pouvoirs d'enquête peuvent interférer avec la vie privée.

L'examen propose d'affaiblir la protection des données pour l'entraînement de l'IA

L'examen, dirigé par le membre de la Chambre des lords David Anderson, met en évidence une proposition clé visant à affaiblir la réglementation de la protection des données entourant les ensembles de données personnelles massives (BPD), qui pourraient être utilisées pour entraîner des systèmes d'IA. L'enquête d'Anderson suggère que l'IPA actuel pourrait nécessiter une refonte complète dans les années 2030 pour s'adapter aux avancées de la technologie IA.

L'IPA a été initialement introduit suite à la révélation d'Edward Snowden en 2013 selon laquelle la National Security Agency américaine collectait des enregistrements téléphoniques de milliers de clients de Verizon à des fins de surveillance.

Équilibrer l'IA et la surveillance

David Anderson reconnaît que l'IA représente l'un des développements technologiques les plus significatifs depuis l'introduction de l'IPA. Cependant, il souligne également que le rôle de l'IA dans la sécurité reste un équilibre délicat entre la promotion des mesures de sécurité et la possibilité involontaire de permettre aux acteurs de la menace potentiels. Il insiste sur le fait que prédire cet équilibre de manière fiable est une tâche difficile.

Le règlement sur l'IA de l'Union européenne et la catégorisation de l'IA

Le règlement sur l'IA de l'Union européenne vise à catégoriser les outils d'IA en fonction de leur niveau de risque, en tenant compte de facteurs tels que la surveillance biométrique et les biais algorithmiques potentiels. Cependant, ce règlement a suscité les critiques des grandes entreprises technologiques, qui le considèrent comme un obstacle potentiel à l'innovation en raison des règles strictes imposées à la catégorisation des IA à haut risque.

L'IA dans la surveillance pour aider à la surveillance des actifs et à l'usage domestique

Une récente enquête menée par GlobalData a révélé que 17 % des entreprises utilisent déjà l'IA pour la surveillance et la surveillance des actifs. De plus, l'IA trouve de plus en plus sa place dans la surveillance domestique.

L'Agence nationale de renseignement géospatial des États-Unis a déjà intégré l'IA dans ses opérations pour accélérer l'analyse des images. Cependant, l'agence a explicitement déclaré que l'IA n'est pas utilisée pour espionner les Américains, mais pour améliorer ses capacités analytiques.

Préoccupations éthiques concernant l'intégration de l'IA dans la surveillance

Malgré les avantages potentiels de l'IA dans la collecte et l'analyse du renseignement, des préoccupations éthiques surgissent lorsqu'on considère son intégration dans la boucle « observer, orienter, décider, agir (OODA) ». Benjamin Chin, analyste diplômé chez GlobalData, soulève des questions sur la quantité de contrôle abandonnée à l'IA dans de tels scénarios.

Chin reconnaît la compétence de l'IA dans les tâches de renseignement et suggère qu'elle pourrait surpasser les humains à l'avenir. Cependant, il met en garde contre le fait que la technologie actuelle est toujours sujette aux biais et aux erreurs, ce qui pourrait nuire à sa réputation en tant qu'outil de surveillance fiable.

De plus, les algorithmes d'IA fonctionnent souvent sur un modèle de « boîte noire », rendant leurs processus de décision opaques et difficiles à expliquer. Ce manque de transparence soulève des préoccupations quant à la confiance accordée à un système dont le fonctionnement interne ne peut pas être entièrement compris.

Le rapport d'intelligence thématique de GlobalData de 2023 sur l'IA souligne qu'à mesure que l'IA devient de plus en plus impliquée dans des décisions qui changent la vie, la transparence et l'explicabilité seront des qualités essentielles que les développeurs d'IA devront prendre en compte.

Le débat en cours sur l'intégration de l'IA dans les opérations de surveillance et de renseignement met en évidence l'équilibre délicat entre les préoccupations de sécurité et de vie privée. Alors que les agences de renseignement du Royaume-Uni recherchent une approche plus légère en matière de réglementation de l'IA, les considérations éthiques et la nécessité de transparence et d'explicabilité restent cruciales pour utiliser l'IA dans ces domaines critiques. À mesure que la technologie progresse, les décideurs politiques et les experts doivent travailler ensemble pour trouver un équilibre qui protège à la fois la sécurité nationale et les droits individuels.