L'acte sur l'IA de l'UE suscite des préoccupations en matière de droits humains

L'Union européenne (UE) a récemment été le théâtre d'un débat houleux entre ses États membres, la Commission européenne et le Parlement européen concernant l'acte fondateur sur l'Intelligence Artificielle (IA). Cette législation pivotale, qui vise à réguler le déploiement des technologies d'IA au sein de l'UE, a suscité à la fois des éloges et des critiques.

Mher Hakobyan, Conseiller en plaidoyer sur l'intelligence artificielle, a exprimé sa déception face à ce qu'il perçoit comme une occasion manquée de protéger les droits humains et la vie privée.

L'un des points centraux de controverse au sein de l'acte sur l'IA est la réglementation de la technologie de reconnaissance faciale. Les défenseurs d'une réglementation stricte de l'IA avaient initialement appelé à une interdiction inconditionnelle de la reconnaissance faciale en direct. Cependant, la version finale de la législation ne répond pas à cette demande, permettant une utilisation limitée de la technologie de reconnaissance faciale sous certaines garanties.

Mher Hakobyan soutient que ce compromis est une déception majeure, car il argue qu'aucune garantie ne peut efficacement prévenir les violations potentielles des droits humains associées à la technologie de reconnaissance faciale. Il affirme que l'échec à imposer une interdiction complète de la technologie de reconnaissance faciale représente une occasion manquée de protéger les droits humains, l'espace civique et l'État de droit dans l'UE, qu'il estime déjà menacés.

Exportation de technologies d'IA nuisibles

Un autre aspect controversé de l'acte sur l'IA est la réglementation des exportations de technologies d'IA. Certains critiques soutiennent que la législation ne va pas assez loin pour empêcher l'exportation de technologies d'IA qui pourraient être utilisées à des fins nuisibles, telles que la notation sociale. L'acte sur l'IA permet aux entreprises européennes d'exporter des technologies d'IA qui pourraient être considérées comme illégales au sein de l'UE, créant ce que Hakobyan voit comme un double standard dangereux.

Hakobyan suggère que permettre aux entreprises européennes de tirer profit de technologies reconnues comme nuisibles aux droits humains dans leurs États d'origine est préoccupant. Il estime que des mesures plus fortes auraient dû être prises pour s'assurer que les technologies d'IA développées au sein de l'UE ne sont pas utilisées pour violer les droits humains ailleurs dans le monde.

Malgré la nature controversée du débat, un accord politique provisoire de haut niveau sur l'acte sur l'IA a été atteint. Cependant, avant qu'il ne devienne loi, des réunions techniques intensives sont prévues pour finaliser le texte de la législation.

L'appel d'Amnesty International pour des protections plus fortes

Amnesty International, ainsi qu'une coalition d'organisations de la société civile dirigée par le Réseau européen des droits numériques (EDRi), plaide pour une réglementation robuste de l'IA dans l'UE qui priorise et protège les droits humains. Leur appel à une interdiction complète de l'utilisation, du développement, de la production, de la vente et de l'exportation de la technologie de reconnaissance faciale à des fins d'identification a été un point focal de leurs efforts de plaidoyer.

Le résultat de l'acte sur l'IA reflète les défis de trouver un équilibre entre la promotion de l'innovation et la protection des droits fondamentaux dans le domaine en rapide évolution de l'intelligence artificielle. La décision d'autoriser une utilisation limitée de la technologie de reconnaissance faciale sous garanties reconnaît les avantages potentiels de l'IA tout en tentant d'en atténuer les risques. Cependant, des critiques comme Mher Hakobyan soutiennent que ces garanties sont insuffisantes et qu'une interdiction pure et simple de certaines applications d'IA est nécessaire pour prévenir les abus des droits humains.

Le débat entourant l'acte sur l'IA met également en lumière les complexités de la réglementation des technologies d'IA à l'échelle mondiale. Bien que l'UE prenne des mesures pour réglementer l'IA au sein de ses frontières, l'exportation de technologies d'IA reste une question controversée. Trouver un équilibre entre le soutien à l'innovation européenne et la prévention de l'utilisation abusive des outils d'IA à l'étranger est un défi avec lequel les décideurs politiques continuent de lutter.