La loi sur l’IA – Naviguer dans les zones grises de la déréglementation

Dans une décision tardive le vendredi, les institutions de l’Union européenne ont atteint un accord provisoire sur la loi sur l’IA tant attendue après d’intenses négociations trilatérales. Pourtant, au milieu des célébrations de cette étape importante, des préoccupations surgissent concernant les failles potentielles qui pourraient transformer cette étape réglementaire en un déguisement de la déréglementation.

La loi sur l’IA, visant à établir un cadre pour le développement et l’utilisation responsables de l’intelligence artificielle, devrait trouver un équilibre entre l’innovation et la protection de la société. Pourtant, les complexités de l’accord, en particulier issues des négociations de dernière minute, soulèvent des questions sur les véritables intentions derrière la législation apparemment complète.

Composants clés de la loi sur l’IA

Le principe fondamental d’une approche basée sur les risques, initialement proposée par la Commission européenne, reste intact. Les systèmes d’IA « à haut risque », présentant des menaces pour la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et l’État de droit, sont soumis à des exigences spécifiques. Mais, l’ajout de conditions de filtrage soulève des préoccupations concernant des failles potentielles qui pourraient exonérer certaines applications à haut risque.

La loi sur l’IA interdit les systèmes d’IA causant des risques inacceptables, y compris ceux manipulant le comportement humain, exploitant les vulnérabilités et effectuant un grattage d’images faciales non ciblé. Bien que l’interdiction soit complète, les exceptions pour des raisons de sécurité, telles que la reconnaissance des émotions sur le lieu de travail, introduisent une ambiguïté et des failles potentielles.

Les obligations de transparence pour les modèles de base, en particulier ceux « à haut impact » présentant un risque systémique, sont introduites. Des règles plus strictes exigent des évaluations de modèles, des évaluations des risques systémiques, des tests adversariaux, des mesures de cybersécurité et la déclaration d’incidents. Pourtant, la dépendance aux codes de pratique jusqu’à l’établissement de normes harmonisées de l’UE peut créer des incertitudes en matière de conformité.

L'inclusion d'une évaluation de l'impact sur les droits fondamentaux (FRIA) répond aux préoccupations concernant la surveillance discriminatoire par l'État et l'utilisation de l'IA dans les forces de l'ordre. Néanmoins, les exemptions accordées aux agences de police soulèvent des questions sur l'efficacité de la FRIA dans la prévention du déploiement nuisible d'outils d'IA à haut risque.

Les violations du règlement sur l'IA entraîneront des amendes allant de 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial à 7,5 millions d'euros ou 1,5 % du chiffre d'affaires pour les infractions mineures. Bien que ces amendes visent à faire respecter la conformité, des inquiétudes sont soulevées quant à un contournement potentiel via des « plafonds proportionnés », favorisant les grandes entreprises et les incitant à déléguer des projets d'IA risqués aux startups.

La création d'un Bureau de l'IA et d'un Conseil constitue la structure de gouvernance. Le bureau au sein de la Commission supervise les modèles d'IA avancés, tandis que le conseil, composé de représentants des États membres, agit comme une plateforme de coordination. La participation limitée des acteurs sociétaux en tant qu'experts techniques pourrait réduire la voix de la société civile dans l'élaboration des réglementations sur l'IA.

Lacunes et préoccupations non explorées dans le règlement sur l'IA

Malgré les affirmations de figures clés comme Thierry Breton et d'autres exprimant leur confiance dans l'équilibre entre innovation et protection, les craintes concernant d'éventuelles failles dans le règlement sur l'IA persistent. Lors d'une conférence de presse tardive vendredi soir, les responsables ont reconnu que les conditions de filtrage et les exceptions pourraient permettre aux applications à haut risque d'échapper au contrôle. Des questions telles que l'interdiction des systèmes d'identification biométrique et le déploiement d'outils d'IA à haut risque dans des circonstances urgentes suscitent des doutes quant à l'efficacité de la loi.

L’affirmation de Thierry Breton selon laquelle la loi sur l’IA va au-delà d’un simple livre de règles, fonctionnant comme une plateforme pour que les startups et les chercheurs de l’UE prennent les devants dans la course mondiale à l’IA, implique une ambition inhérente d’établir l’UE comme une force majeure dans le domaine de l’intelligence artificielle. Les critiques soutiennent que cela reflète une approche de déréglementation, privilégiant le soutien et l’avancement des entreprises européennes d’IA plutôt que des réglementations strictes.

À mesure que le règlement sur l'IA se rapproche de sa mise en œuvre, le débat sur son efficacité et les failles potentielles s'intensifie. La législation parviendra-t-elle véritablement à trouver un équilibre entre la promotion de l'innovation et la protection de la société, ou s'agit-il d'une stratégie de déréglementation soigneusement déguisée ? Les mois à venir révéleront l'impact réel du règlement sur l'IA sur le paysage de l'IA au sein de l'Union européenne et au-delà.