L’influence des géants de la tech entrave la réglementation de l’IA : une menace pour l’intérêt public

À mesure que les systèmes d'intelligence artificielle (IA) s'intègrent de plus en plus à divers aspects de la société, les inquiétudes quant à leurs risques et aux atteintes potentielles aux droits fondamentaux s'accroissent. Cependant, la révolution de l'IA, principalement impulsée par les géants du numérique, se heurte à une résistance croissante, notamment par le biais d'efforts de lobbying visant à contrer les réglementations destinées à protéger le public.

Conséquences concrètes des algorithmes biaisés

L'impact social de l'IA n'est pas un scénario futuriste, mais une réalité actuelle. Les exemples abondent, des Pays-Bas au Royaume-Uni en passant par l'Australie, où des algorithmes biaisés ont accusé à tort des milliers de personnes de fraude aux prestations sociales. Les conséquences ont été désastreuses, notamment pour les personnes issues de ménages à faibles revenus et les migrants, entraînant endettement, sans-abrisme et problèmes de santé mentale.

Récemment, l'attention s'est portée sur les systèmes d'IA les plus avancés, appelés « modèles de base », dont ChatGPT est un exemple. Ces systèmes complexes peuvent servir à diverses fins, mais leur comportement est souvent imprévisible, même pour leurs développeurs. Les géants technologiques comme Google et Microsoft sont les principaux à les développer en raison de l'ampleur et des ressources considérables qu'ils requièrent. Ces entreprises détiennent des quasi-monopoles dans le secteur de l'IA et ont investi des milliards dans des partenariats avec des startups, renforçant ainsi leur position dominante.

Préoccupations éthiques et diminution des équipes d'éthique

De façon alarmante, malgré leur influence, nombre de ces géants de la tech ont récemment dissous ou réduit leurs équipes d'éthique. Certaines de ces équipes avaient exprimé des inquiétudes quant aux dangers liés aux systèmes d'IA qu'elles développaient. Cela soulève des questions quant aux considérations éthiques au sein de l'industrie de l'IA.

Consciente des risques potentiels liés aux modèles de fondation, le Parlement européen a pris des mesures au printemps pour imposer certaines obligations aux entreprises participant à leur développement. Ces obligations constituent essentiellement un devoir de vigilance. Les entreprises doivent démontrer qu'elles ont pris toutes les mesures nécessaires pour atténuer les risques d'atteinte aux droits fondamentaux, garantir la qualité des données d'entraînement et minimiser l'impact environnemental lié à la consommation d'énergie et d'eau des centres de données.

Les efforts de lobbying des géants de la tech

Alors que les entreprises technologiques militent publiquement pour une réglementation de l'IA, elles s'opposent farouchement, en coulisses, à toute forme de réglementation concernant les modèles de fondation. Une étude de Corporate Europe Observatory révèle que les géants de la tech ont mené un lobbying intense pour influencer le cadre réglementaire. Cette année, 66 % des réunions avec les parlementaires européens sur l'IA ont impliqué des intérêts d'entreprises, contre 56 % entre 2019 et 2022.

Dès qu'elles ont appris l'intention du Parlement européen de réglementer les modèles de fondations, les géants de la tech ont rapidement réorienté leurs efforts de lobbying vers la Commission européenne et les États membres de l'UE. Cette année, 86 % des réunions des hauts fonctionnaires de la Commission consacrées à l'IA ont impliqué des représentants de l'industrie. Les dirigeants de Google, d'OpenAI et de Microsoft ont personnellement rencontré les décideurs politiques européens au plus haut niveau.

Soutien provenant de sources inattendues

Étonnamment, les géants de la tech ont également trouvé du soutien auprès des startups européennes spécialisées en intelligence artificielle Mistral AI et Aleph Alpha, qui ont exercé des pressions sur leurs gouvernements respectifs (France et Allemagne). Mistral AI a ouvert un bureau de lobbying à Bruxelles, dirigé par l'ancien secrétaire d'État français à la Transition numérique, Cédric O, connu pour son influence auprèsdent français Emmanuel Macron.

L'opposition des géants de la tech et de certains États membres a compliqué les négociations en trilogue entre les institutions de l'UE. Même en cas d'accord, des décisions importantes resteront à prendre lors de sa mise en œuvre, laissant ainsi aux grandes entreprises technologiques la possibilité de continuer à influencer le processus.

L'influence exercée par les géants de la tech dans le domaine réglementaire soulève une question cruciale : sont-ils devenus trop puissants pour être régulés efficacement ? Grâce à leur puissance de lobbying et à leur accès privilégié au pouvoir, ils sont souvent parvenus à bloquer les réglementations susceptibles de limiter leurs pratiques commerciales controversées. De même que l'industrie du tabac a été exclue du lobbying auprès des responsables de la santé publique en raison d'années de manipulations, on observe une demande croissante de restreindre les activités de lobbying des géants de la tech lorsque l'intérêt public est en jeu.