La loi européenne sur l'IA suscite des inquiétudes en matière de droits humains

L'Union européenne (UE) a récemment été le théâtre d'un débat houleux entre ses États membres, la Commission européenne et le Parlement européen au sujet de la loi historique sur l'intelligence artificielle (IA). Ce texte législatif fondamental, qui vise à réglementer le déploiement des technologies d'IA au sein de l'UE, a suscité à la fois des éloges et des critiques. 

Mher Hakobyan, conseiller en matière de plaidoyer sur l'intelligence artificielle, a exprimé sa déception face à ce qu'il considère comme une occasion manquée de préserver les droits de l'homme et la vie privée.

L'un des principaux points de désaccord concernant la loi sur l'IA est la réglementation de la technologie de reconnaissance faciale. Les partisans d'une réglementation stricte de l'IA avaient initialement réclamé une interdiction totale de la reconnaissance faciale en temps réel. Cependant, la version finale du texte législatif ne répond pas à cette demande, autorisant une utilisation limitée de la technologie de reconnaissance faciale sous certaines conditions.

Mher Hakobyan estime que ce compromis est une grande déception, car, selon lui, aucune garantie ne peut empêcher efficacement les violations potentielles des droits humains liées à la technologie de reconnaissance faciale. Il affirme que l'absence d'une interdiction totale de cette technologie représente une occasion manquée de protéger les droits humains, l'espace civique et l'état de droit dans l'UE, autant d'éléments qu'il considère déjà menacés.

Exportation de technologies d'IA nuisibles

Un autre aspect controversé de la loi sur l'IA concerne la réglementation des exportations de technologies d'IA. Certains critiques estiment que la législation n'est pas suffisamment contraignante pour empêcher l'exportation de technologies d'IA susceptibles d'être utilisées à des fins néfastes, comme l'évaluation sociale. La loi sur l'IA autorise les entreprises européennes à exporter des technologies d'IA qui pourraient être considérées comme illégales au sein de l'UE, créant ainsi ce que Hakobyan qualifie de dangereux deux poids, deux mesures.

Hakobyan estime qu'il est préoccupant d'autoriser les entreprises européennes à tirer profit de technologies reconnues comme portant atteinte aux droits humains dans leurs pays d'origine. Il considère que des mesurestronstrictes auraient dû être prises pour garantir que les technologies d'IA développées au sein de l'UE ne soient pas utilisées pour violer les droits humains ailleurs dans le monde.

Malgré la nature controversée du débat, un accord politique provisoire de haut niveau sur la loi relative à l'IA a été conclu. Cependant, avant son adoption, des réunions techniques approfondies sont prévues afin de finaliser le texte législatif.

Amnesty International appelle à des protectionstron

Amnesty International, aux côtés d'une coalition d'organisations de la société civile menée par le Réseau européen des droits numériques (EDRi), milite pour une réglementation stricte de l'IA au sein de l'UE, qui privilégie et protège les droits humains. Leur appel à une interdiction totale de l'utilisation, du développement, de la production, de la vente et de l'exportation de la technologie àdentest au cœur de leur action.

La loi sur l'IA illustre la difficulté de trouver un équilibre entre la promotion de l'innovation et la protection des droits fondamentaux dans le domaine en pleine évolution de l'intelligence artificielle. La décision d'autoriser un usage limité de la technologie de reconnaissance faciale, assorti de garanties, reconnaît les avantages potentiels de l'IA tout en s'efforçant d'en atténuer les risques. Cependant, des critiques comme Mher Hakobyan estiment que ces garanties sont insuffisantes et qu'une interdiction pure et simple de certaines applications de l'IA est nécessaire pour prévenir les violations des droits humains.

Le débat autour de la loi sur l'IA met également en lumière la complexité de la réglementation des technologies d'IA à l'échelle mondiale. Si l'UE prend des mesures pour réglementer l'IA sur son territoire, l'exportation de ces technologies demeure un sujet de discorde. Trouver un équilibre entre le soutien à l'innovation européenne et la prévention du détournement des outils d'IA à l'étranger représente un défi constant pour les décideurs politiques.