Les responsables de la diversité et le contexte dynamique des décisions des entreprises en matière d'IA

Dans un contexte organisationnel en constante évolution, les responsables de la diversité (CDO) se retrouvent au cœur d'un débat crucial. La demande croissante de CDO pour promouvoir la diversité, l'équité et l'inclusion (DE&I) au sein des entreprises a atteint des sommets ces deux dernières années. Cependant, des événements récents, notamment des départs et des licenciements de haut niveau, ont jeté le doute sur l'efficacité de ce rôle unique dans le pilotage des initiatives DE&I. Alors que les entreprises établissent leurs budgets pour l'année à venir, un point de convergence intéressant se dessine : les investissements dans l'intelligence artificielle générative (IA) et la réalisation des objectifs DEI. Cette convergence invite à réévaluer le rôle du CDO et soulève des questions quant à son implication dans les décisions stratégiques en matière d'IA.

Décisions relatives à l'IA et groupes marginalisés

À l'approche de l'année à venir, une question cruciale se pose : les CDO peuvent-ils jouer un rôle déterminant pour garantir l'équité et l'impartialité des décisions de l'IA ? L'impact de l'IA sur les groupes historiquement marginalisés est analysé, en soulignant les écueils et les défis potentiels auxquels les organisations sont confrontées lors du déploiement de l'IA dans leurs processus.

La plupart des entreprises intègrent aujourd'hui une forme d'IA dans leurs processus de recrutement. Toutefois, le risque de biais persiste, pouvant entraîner la négligence de certains viviers de candidats – une préoccupation majeure pour tout responsable de la transformation numérique (CDO) soucieux d'inclusion. Le choix de la technologie d'IA et la réalisation des audits nécessaires relèvent de la responsabilité du CDO, d'autant plus que des mesures législatives, telles que la loi locale 144 de la ville de New York, imposent des audits de biais avant l'utilisation d'outils automatisés de décision en matière d'emploi.

Une étude de Charter met en lumière les disparités dans les effets de l'IA sur différents groupes démographiques. Les inquiétudes exprimées par lesdentnoirs concernant les pertes d'emplois dues à l'IA, les différences d'utilisation des outils d'IA entre les sexes et les disparités liées à l'âge soulignent la nécessité d'une analyse approfondie. Dès lors, une question se pose : qui mieux qu'un responsable de la diversité pour répondre à ces préoccupations ?

Le rôle de l'IA dans les inégalités économiques

Les recherches de Charter mettent en lumière l'impact positif que l'IA peut avoir sur la réduction des obstacles à l'entrée dans certaines professions. Jyl Feliciano, vice-présidente Diversité, Équité, Inclusion et Appartenance chez Highspot, partage son expérience en matière de décisions relatives à l'IA chez Highspot et en tant que conseillère auprès du conseil d'administration d'Included.

Feliciano encourage les responsables du numérique à non seulement envisager l'IA, mais aussi à s'y consacrer pleinement, soulignant son potentiel pourdentles tendances du marché du travail, analyser les parcours professionnels des employés et renforcer l'inclusion grâce à des outils comme Included. Donald Knight, directeur des ressources humaines chez Greenhouse, soulève la question des outils d'IA encore inexploités qui pourraient contribuer à la réalisation des objectifs de diversité, d'équité et d'inclusion (DE&I), positionnant ainsi la DE&I comme une composante essentielle du processus d'innovation en IA.

Collecte de données et rôle des CDO

Cliff Jurkiewicz, vice-président de la stratégie chez Phenom, souligne la nécessité pour les responsables de la transformation numérique (CDO) de tirer parti des audits d'IA, y voyant une opportunité pour les acteurs de l'inclusion d'influencer la sélection et l'évaluation des outils d'IA. L'implication des CDO dans l'ensemble du processus décisionnel relatif à l'IA, de la sélection à l'évaluation, permet d'établir des normes et de démontrer l'importance de leur travail au sein de différentes organisations.

Feliciano propose des conseils pratiques aux CDO souhaitant participer aux décisions relatives à l'IA, en insistant sur l'importance de comprendre les algorithmes, les principes éthiques et la composition de l'équipe de développement. En conclusion, il réaffirme l'impératif moral d'intégrer des perspectives diverses au sein des comités, des conseils et lors de la sélection des fournisseurs, et souligne la nécessité de poser des questions pertinentes sur le développement professionnel du personnel face aux nouvelles technologies.

Alors que les entreprises se trouvent à la croisée des chemins entre investissements en IA et objectifs de diversité, d'équité et d'inclusion (DEI), le rôle des responsables de la diversité devient primordial. Une question demeure : ces responsables peuvent-ils gérer efficacement la complexité des décisions relatives à l'IA et garantir un environnement technologique juste et inclusif ? L'intersection dynamique de la diversité, de l'équité, de l'inclusion et de l'intelligence artificielle invite à une réévaluation des structures organisationnelles et exige une approche réfléchie pour relever les défis et saisir les opportunités à venir. Comment les entreprises trouveront-elles le juste équilibre, et qui les guidera dans cet exercice délicat entre diversité et avenir numérique ?