La loi européenne sur l'IA obtient son approbation définitive, assortie d'amendes pouvant atteindre 38 millions de dollars 

L'Union européenne a approuvé mardi la version finale de sa loi très attendue sur l'intelligence artificielle (IA), devenant ainsi la première grande puissance économique à introduire des règles complètes pour ce secteur naissant. 

Les nouvelles règles, visant à restreindre l'utilisation publique de l'IA considérée comme à haut risque, comme les deepfakes et les logiciels de reconnaissance faciale, s'appliqueront à toutes les entreprises qui déploient de telles applications dans les 27 États membres de l'UE.

L’Union européenne représente environ 20 % de l’économie mondiale. Les entreprises spécialisées en intelligence artificielle qui enfreignent la nouvelle loi s’exposeront à des amendes pouvant atteindre 35 millions d’euros (38 millions de dollars) ou 7 % de leur chiffre d’affaires annuel mondial, selon le Conseil de l’UE.

À lire également : OpenAI abandonne ChatGPT Voice après la polémique avec Scarlett Johansson

Une nouvelle législation vise à instaurer une « IA sûre »

« L’adoption de la loi sur l’IA constitue une étape importante pour l’Union européenne », a déclaré Mathieu Michel, secrétaire d’État belge à la numérisation et à la protection de la vie privée, dans un communiqué.

Avec la loi sur l'IA, l'Europe souligne l'importance de la confiance, de la transparence et de la responsabilité dans le traitement des nouvelles technologies, tout en veillant à ce que cette technologie en constante évolution puisse se développer et stimuler l'innovation européenne.

Mathieu Michel

Les trois organes de pouvoir de l'UE – la Commission, le Parlement et le Conseil – devaient tous approuver la version finale du règlement. La Commission européenne et le Parlement européen avaient déjà approuvé la loi, et le Conseil a donné son accord définitif le 22 mai.

La loi sur l'intelligence artificielle définit différentes catégories de risques liés à l'utilisation de l'intelligence artificielle, allant de « faible risque » à « risque élevé » et « risque inacceptable ». Cette catégorisation repose sur le potentiel des systèmes à nuire aux consommateurs.

Les applications d'IA considérées comme une menace pour les droits individuels, telles que les logiciels de reconnaissance faciale dans les lieux publics et le système de notation sociale – une pratique qui attribue des scores aux individus, que ce soit pour des prêts ou un logement, en fonction de leur comportement – ​​seront purement et simplement interdites.

La catégorie de risque la plus faible concerne l'intelligence artificielle utilisée dans les jeux vidéo ou les filtres anti-spam. Les cas d'utilisation sensibles « à haut risque » qui seront autorisés incluent la gestion des frontières, l'éducation et le recrutement.

Les entreprises qui déploient ces technologies seront tenues de divulguer davantage d'informations sur les données utilisées pour l'entraînement de leurs systèmes. Selon l'UE, son Parlement sera habilité à infliger des amendes aux entreprises qui enfreignent la législation sur l'IA, pouvant atteindre 38 millions de dollars ou 7 % de leur chiffre d'affaires mondial annuel.

#TTE | Les ministres des télécommunications australiens ont adopté aujourd'hui la loi sur l'intelligence artificielle.

Ils ont également discuté de la mise en œuvre des règles de l'UE dans le domaine numérique et ont approuvé des conclusions sur la politique numérique de l'UE et sur la cybersécurité.

Consultez les principaux résultats ➡️https://t.co/Q4eWvrgslw pic.twitter.com/Ayf6EF5NS9

— Conseil de l'UE (@EUCouncil) 21 mai 2024

La loi sur l'IA risque de freiner les investissements

Matthijs de Vries, fondateur de Nuklai, un écosystème de données d'IA, a déclaré que ces règles sont conçues pour protéger les informations personnelles, notamment dans des secteurs sensibles tels que la santé et la finance.

« En veillant à ce que les systèmes d’intelligence artificielle respectent des protocoles d’utilisation des données rigoureux, la loi sur l’IA contribue à protéger la vie privée et la sécurité des consommateurs », a déclaré de Vries Cryptopolitan.

« La divulgation des pratiques de collecte, de traitement et d’utilisation des données, exigée par le règlement européen sur la protection des données, contribue à clarifier quelles données servent à l’entraînement de l’IA et quelles données elle utilise pour formuler ses affirmations et conclusions. Cela contribue à renforcer la confiance, la vérifiabilité et la fiabilité des systèmes d’IA », a-t-il ajouté.

Des inquiétudes subsistent quant aux difficultés que pourraient rencontrer les startups pour se conformer à la loi sur l'IA. Les fondateurs craignent que ces mesures ne pénalisent les petites entreprises et n'entravent l'investissement et l'innovation, creusant ainsi le retard de l'Europe sur les États-Unis et la Chine dans la course à l'IA.

En octobre, Cédric O., fondateur de la start-up française d'IA Mistral, a déclaré que la loi « tuerait » son entreprise. L'entrepreneur craignait que la loi n'impose un contrôle excessif aux grands modèles de langage, même s'ils n'étaient pas utilisés pour des cas d'usage sensibles comme le recrutement, selon.

Jonas Andrulis, PDG d'Aleph Alpha, concurrent allemand d'OpenAI, a déclaré que classer les « IA à usage général » comme les LLM comme étant à haut risque pourrait avoir des conséquences imprévues. Ses propos ont été repris par Peter Sarlin, PDG de la société finlandaise Silo AI.

« Si nous généralisons à l'ensemble de la technologie d'IA générative et que nous affirmons que tous les cas d'utilisation qui font appel à des transformateurs pré-entraînés génératifs (GPT) présentent un risque élevé, alors je pense que nous allons également réglementer un grand nombre de cas d'utilisation qui ne présentent pas réellement un risque élevé », a déclaré Sarlin à l'époque.

Les « usines d'IA » de l'UE pour stimuler l'innovation

Ce ne sont pas seulement les entrepreneurs qui ont exprimé des inquiétudes concernant la loi sur l'IA. Une analyse du département d'État américain publiée en octobre 2023 avertissait que certaines règles de la loi étaient fondées sur des termes « vagues ou nondefi», selon Bloomberg.

L'analyse indique que la loi profiterait aux plus grandes entreprises technologiques, qui disposent des ressources financières nécessaires pour entraîner des modèles d'IA et des systèmes d'apprentissage automatique. Les petites entreprises risquent quant à elles de subir des pertes.

Par ailleurs, selon une enquête menée en 2023 par l'Initiative pour l'IA appliquée auprès de 14 fonds de capital-risque européens, les investisseurs en capital-risque sont peu susceptibles d'investir dans des startups classées à haut risque par la loi sur l'IA. Onze de ces fonds ont indiqué être moins enclins à investir dans des entreprises présentant un profil de risque élevé, et huit ont estimé que cela impacterait fortement la valorisation de la startup.

À lire également : Les principaux chatbots IA « très vulnérables » aux simples « jailbreaks » – Étude

Fin janvier, l'Union européenne a annoncé une série de mesures visant à stimuler l'innovation pour les startups européennes développant ce qu'elle appelle une IA « digne de confiance » qui « respecte les valeurs et les règles de l'UE ».

L'Union a déclaré que les entreprises bénéficieront d'un « accès privilégié aux supercalculateurs » et que l'UE construira des « usines à IA » pour garantir que l'infrastructure nécessaire soit disponible pour que les start-ups puissent l'acquérir et la mettre à niveau.

La loi européenne sur l'IA ne devrait pas entrer en vigueur avant 2025.

Reportage Cryptopolitan de Jeffrey Gogo