L'intégration croissante de l'intelligence artificielle (IA) dans les processus d'entreprise, notamment le recrutement , suscite de vives inquiétudes chez les professionnels des ressources humaines et les spécialistes du droit du travail. Katherine Cooke, avocate senior spécialisée en droit du travail au sein du cabinet Higgs LLP , a mis en garde les entreprises contre les risques de discrimination involontaire liés à l'utilisation de l'IA dans les processus de recrutement. Cette évolution révèle la double nature de l'IA, à la fois outil d'amélioration de l'efficacité et source potentielle de dilemmes juridiques et éthiques.
Responsabilités juridiques et risques de discrimination
Le recours à l'IA pour le tri des candidatures est devenu une pratique courante, conçue pour gérer le volume de candidatures et rationaliser les processus de sélection. Si les systèmes d'IA peuvent classer efficacement les candidats selon des critères prédéterminés tels que les résultats scolaires ou des compétences spécifiques, le risque de biais involontaires s'accroît. Cooke met en lumière des cas où des processus pilotés par l'IA ont conduit à des discriminations sexistes et raciales, rappelant aux entreprises qu'elles pourraient être tenues pour responsables juridiquement de tels agissements.
Cette situation n'est pas hypothétique, comme le démontrent desdentimpliquant de grandes entreprises telles qu'Amazon et Uber. L'outil de recrutement d'Amazon, conçu pour automatiser le tri des CV, a évolué et a révélé un biais défavorable aux candidates. L'algorithme, reflétant la prédominance masculine dans les données relatives aux employés de la dernière décennie, a commencé à dévaloriser les CV mentionnant des associations ou des groupes « féminins ». De même, Uber a rencontré des difficultés avec son logiciel de reconnaissance faciale pour l'authentification des chauffeurs inscrits. Le système d'IA a affiché un taux d'échec nettement plus élevé pour la reconnaissance précise des visages à la peau foncée, en particulier pour les femmes.
Protection des données : une préoccupation croissante
Outre la discrimination, la protection des données représente un autre risque majeur lié à l'IA dans les opérations commerciales. Les systèmes d'IA nécessitent souvent l'accès aux données des employés ou des clients et leur utilisation, ce qui soulève des préoccupations quant à ladentdes données et au respect des obligations légales. Le transfert de ces données en dehors de l'entreprise exige une vigilance accrue quant à leur lieu et leur mode de stockage et d'utilisation. Les entreprises doivent être pleinement conscientes des risques de violation de ladentet des conséquences juridiques du traitement des données à des fins autres que celles prévues.
Orientations pour une utilisation responsable de l'IA
Pour relever ces défis, les avocats spécialisés en droit du travail du cabinet Higgs LLP conseillent aux entreprises d'adopter des politiques complètes et efficaces encadrant l'utilisation de l'IA. Cela implique non seulement d'établir des directives claires pour la mise en œuvre de l'IA, mais aussi d'assurer un suivi continu afin d'dentet d'atténuer tout risque de discrimination. Par ailleurs, il est essentiel de former le personnel à la reconnaissance des risques liés à la protection des données associés aux logiciels d'IA, ainsi que de prendre les mesures de sécurité nécessaires pour protéger les données personnelles.
En conclusion, si l'IA offre un potentiel de transformation considérable pour les opérations commerciales, son adoption soulève d'importantes questions juridiques et éthiques. Les entreprises sont encouragées à aborder l'intégration de l'IA avec une perspective équilibrée, en reconnaissant ses avantages et l'impératif de limiter les risques de discrimination et de protection des données. À mesure que l'IA évolue, les stratégies et politiques mises en œuvre par les entreprises doivent également évoluer afin d'exploiter ses capacités de manière responsable.
