L'AI Act européen suscite des inquiétudes concernant les droits des migrants et des demandeurs d'asile

Les décideurs politiques européens ont récemment convenu d'un accord provisoire sur l'très attendu AI Act, un règlement destiné à régir l'utilisation de l'intelligence artificielle au sein de l'Union européenne. Bien que cette avancée marque un pas significatif vers la régulation de l'IA, des préoccupations émergent quant aux failles potentielles qui pourraient laisser les migrants et les demandeurs d'asile sans protection adéquate contre les systèmes biométriques IA.

L'autonomie des migrants menacée : les critiques s'expriment

Un article de recherche publié à la veille du vote de l'AI Act a tiré la sonnette d'alarme, soulignant comment les pratiques obligatoires de collecte de données biométriques au sein de l'UE pourraient miner l'autonomie des migrants résidant dans la zone euro. Les critiques soutiennent que l'Acte, tel qu'il se présente actuellement, pourrait ne pas apporter de changement significatif pour ce groupe vulnérable.

L'organisation de défense des droits Algorithm Watch a publié une déclaration, soulignant que l'Acte contient des exceptions pour les systèmes à haut risque, en particulier ceux utilisés dans la sécurité nationale, l'application de la loi et la migration. Ces exceptions pourraient potentiellement permettre aux autorités de contourner les dispositions fondamentales de l'Acte. Parmi les systèmes qui suscitent des inquiétudes figurent la reconnaissance faciale en direct utilisée dans les espaces publics pour identifier les suspects de crimes et la technologie employée pour évaluer les émotions des demandeurs d'asile.

Le niveau de protection que ces systèmes offriront reste incertain jusqu'à la publication du texte final de l'AI Act, ce qui ajoute à l'anxiété des défenseurs des droits.

Migrants exclus des protections clés

Les groupes de défense des droits expriment depuis longtemps leurs préoccupations concernant l'exclusion des migrants des garanties prévues par l'AI Act. L'exclusion des zones de contrôle des frontières par le Conseil européen de la définition des « espaces accessibles au public » est un point de controverse particulier. Cette exclusion ouvre la porte à l'utilisation de la surveillance biométrique à distance dans ces zones, soulevant davantage de questions sur les droits et la vie privée des migrants.

Dans un rapport publié en septembre, le Border Violence Monitoring Network (BVMN), une coalition dédiée à la promotion des droits des migrants et des demandeurs d'asile, met en garde contre le fait que la convergence croissante des bases de données biométriques de migration et criminelles pourrait contribuer à la criminalisation des migrants. Le BVMN critique également le manque de garanties substantielles et la focalisation limitée sur les droits des personnes en mouvement dans l'AI Act.

Externalisation de la responsabilité : une nouvelle préoccupation

Les pays européens semblent avoir trouvé une voie alternative pour gérer les données biométriques des migrants et les systèmes IA qui en dépendent – l'externalisation. Selon le BVNM, l'UE pourrait compromettre les droits des demandeurs d'asile en transférant la responsabilité de la gestion des demandes à des États tiers, en particulier ceux situés le long de la route migratoire des Balkans occidentaux, une voie majeure vers l'Europe.

Les pays des Balkans ont mis en place leur propre système « Balkandac », inspiré de la base de données d'empreintes digitales de l'UE, Eurodac, utilisée pour identifier les demandeurs d'asile et les personnes franchissant irrégulièrement les frontières. La coopération entre les pays de la région, y compris des membres non-UE tels que la Serbie, la Bosnie-Herzégovine, ainsi qu'avec les États membres de l'UE et des agences comme Frontex, a propulsé le développement de ces systèmes de données. Le financement des Instruments d'aide de préadhésion de l'UE et des accords bilatéraux avec les pays de l'UE a également soutenu ces initiatives dans les Balkans occidentaux.

Malgré ces développements, les préoccupations abondent. Les systèmes de données biométriques dans les Balkans occidentaux sont considérés comme contribuant à une sécurisation accrue de la gestion des flux migratoires vers l'UE. Outre le fait de potentiellement brouiller les lignes entre le droit de l'immigration et le droit pénal, les systèmes Balkandac manquent de garanties anti-discrimination et pourraient contourner des principes critiques de protection des données.

Un équilibre nécessaire

Alors que l'UE avance vers la ratification de l'AI Act, les préoccupations concernant son impact sur les migrants et les demandeurs d'asile restent prédominantes. Les critiques soutiennent que sans des garanties strictes et une focalisation claire sur les droits de ces populations vulnérables, l'Acte pourrait involontairement perpétuer la discrimination et la surveillance.

Trouver l'équilibre entre la nécessité d'une régulation efficace de l'IA pour protéger les droits individuels, en particulier dans le contexte de la migration et de l'asile, est une tâche complexe. Lorsque le texte final de l'AI Act sera dévoilé, on verra si les décideurs politiques européens peuvent répondre à ces préoccupations et trouver cet équilibre délicat entre progrès technologique et droits humains. La montre tourne, et le monde observe attentivement.