L’utilisation de l’IA par le gouvernement pour surveiller les réseaux sociaux suscite des inquiétudes

Ces dernières années, l’utilisation de l’intelligence artificielle (IA) dans divers aspects des opérations gouvernementales est devenue plus courante. Cependant, elle a suscité d’importants débats sur la vie privée, la responsabilité et l’équité. Une révélation récente concernant l’utilisation de l’IA par l’agence américaine des douanes et de la protection des frontières (ICE) pour surveiller l’activité des réseaux sociaux des demandeurs de visa a relancé les discussions sur le rôle des algorithmes dans la détermination de qui est considéré comme « à risque ». 

L’outil alimenté par l’IA : Giant Oak Search Technology (GOST)

Des documents obtenus via une action en vertu de la Freedom of Information Act (FOIA) ont révélé que l’ICE utilise un outil alimenté par l’IA appelé Giant Oak Search Technology (GOST) depuis 2014. GOST est conçu pour scanner les publications sur les réseaux sociaux des demandeurs de visa et leur attribuer un « score de médias sociaux » allant de 1 à 100. Ce score est déterminé en fonction du caractère « diffamatoire » des publications envers les États-Unis. Si le score d’un demandeur soulève des inquiétudes, les analystes de l’ICE peuvent examiner les images et profils signalés pour évaluer s’ils présentent un risque potentiel.

Un investissement de plusieurs millions de dollars

L’ampleur de ce programme de surveillance par IA est significative, l’ICE ayant reportedly payé plus de 10 millions de dollars à Giant Oak pour la technologie depuis 2017. De plus, la portée de Giant Oak s’étend au-delà de l’ICE, l’entreprise détenant également des contrats avec d’autres agences gouvernementales, y compris la Drug Enforcement Administration (DEA), l’Air Force, le Département d’État et le Département du Trésor. L’utilisation généralisée d’une telle technologie dans diverses agences gouvernementales a incité les défenseurs de la vie privée à s’interroger sur ses implications pour les libertés civiles.

Les défenseurs de la vie privée sonnent l’alarme

Les défenseurs de la vie privée affirment que l'utilisation d'algorithmes d'IA pour analyser le contenu des réseaux sociaux soulève de graves inquiétudes. Patrick Toomey, directeur adjoint du projet de sécurité nationale de l'American Civil Liberties Union (ACLU), a exprimé ses craintes, déclarant : « Le gouvernement ne devrait pas utiliser d'algorithmes pour examiner nos publications sur les réseaux sociaux et décider qui parmi nous est « à risque ». » Toomey a appelé à la transparence et a exhorté le Département de la Sécurité intérieure (DHS) à expliquer comment ses systèmes déterminent le risque individuel et quelles conséquences pourraient s'appliquer aux personnes signalées par ces algorithmes.

Les origines de la surveillance des réseaux sociaux

Le programme de surveillance des réseaux sociaux en question a commencé comme un projet pilote en 2016, ciblant principalement les potentiels dépasseurs de visa. Parallèlement, en 2016, l’administration Trump a mis en place des règles exigeant que les demandeurs de visa fournissent cinq ans de leur historique de réseaux sociaux dans le cadre du processus de sélection. Ces mesures ont été introduites dans le but d’améliorer la sécurité nationale, mais elles sont depuis devenues un sujet de controverse.

Le risque de discrimination

Des experts ont exprimé des inquiétudes selon lesquelles ces pratiques basées sur l’IA pourraient involontairement conduire à la discrimination. Selon eux, les systèmes automatisés pourraient signaler de manière disproportionnée les demandeurs de certains pays ou origines, entraînant potentiellement des résultats injustes. Un cas notable en 2019 a vu un étudiant de Harvard se voir refuser l’entrée aux États-Unis en raison de l’activité sur les réseaux sociaux de ses amis, mettant en lumière le potentiel de conséquences involontaires.

L’avenir de l’IA dans l’application des règles d’immigration

Bien que le contrat de l’ICE avec Giant Oak se soit reportedly terminé en 2022, la question plus large de l’utilisation de l’IA pour évaluer le contenu des réseaux sociaux des demandeurs reste un sujet de préoccupation. Le besoin d’une surveillance et d’une réglementation accrues pour prévenir les abus et protéger les libertés civiles est évident. Les implications de ces pratiques s’étendent au-delà de l’application des règles d’immigration et soulèvent des questions fondamentales sur l’équilibre entre la sécurité et la vie privée individuelle à l’ère numérique.

L’utilisation d’algorithmes d’IA pour surveiller et évaluer le contenu des réseaux sociaux dans le contexte des demandes de visa a déclenché un débat sur le rôle du gouvernement dans la détermination de qui est considéré comme un risque potentiel. Les défenseurs de la vie privée soutiennent que de telles pratiques soulèvent d’importantes préoccupations en matière de libertés civiles, et les experts mettent en garde contre le risque de discrimination basée sur la nationalité ou l’origine. À mesure que la technologie continue d’évoluer, il devient de plus en plus important de trouver un équilibre entre la sécurité nationale et la protection des droits à la vie privée individuelle. L’affaire de GOST et son utilisation par l’ICE sert d’avertissement stark des défis et des questions qui se posent à l’ère de la surveillance alimentée par l’IA.