Imaginez une salle de conseil dans laquelle l’intelligence artificielle (IA) siège en tant que membre votant ayant des obligations fiduciaires, plutôt qu’en tant que spectateur. Cette idée a des ramifications importantes pour l’avenir de la gouvernance d’entreprise. C’est l’avenir décrit dans l’ouvrage fondateur « Artificial Fiduciaries ». Afin de remédier à ces lacunes, l’étude suggère une nouvelle approche : des entités d’intelligence artificielle (IA) possédant le même niveau d’obligation et de soin que les administrateurs humains lorsqu’elles agissent en tant que fiduciaires.
Le concept de fiduciaires artificiels
En matière de gouvernance d’entreprise, la recherche d’administrateurs pleinement dent a longtemps été une difficulté. La limitation des mandats et les audits externes sont deux exemples de réformes existantes qui n'ont pas encore atteint une objectivité totale. Selon l’article, l’intelligence artificielle offre un remède spécial sous la forme de « fiduciaires artificiels ». Cette approche étend et affine la notion d'utilisation de fournisseurs de services de conseil (BSP) pour gérer les fonctions du conseil d'administration. Les fiduciaires IA ont la capacité de fournir une véritable indépendance et d’améliorer les processus de prise de décision, contrairement aux BSP, qui sont contraints par les préjugés humains et les limitations technologiques.
Des fiduciaires artificiels pourraient jouer le rôle de médiateurs impartiaux, encourageant l’ouverture et éventuellement démocratisant la gouvernance des entreprises à l’échelle internationale. Il reste néanmoins à répondre à une question essentielle : l’IA est-elle vraiment capable de répondre aux obligations rigoureuses d’un fiduciaire ? Des universitaires en droit tels qu'Eugene Volokh ont exprimé leurs inquiétudes quant au fait que le jugement compatissant puisse jouer un rôle crucial dans cette position, ce que l'étude admet. Il soutient cependant que plutôt que de reproduire précisément les capacités humaines, la question devrait être de savoir si l’IA peut atteindre les objectifs de responsabilité fiduciaire.
Façonner l’avenir de la gouvernance d’entreprise
Selon l'étude, les fiduciaires artificiels pourraient servir d'administrateurs externes objectifs tout en remplissant leurs obligations fiduciaires envers l'entreprise et ses investisseurs. Il est prévu que travailler en tandem avec des homologues humains donnera de meilleurs résultats ; néanmoins, comme les fiduciaires de l’IA sont par nature algorithmiques, leurs missions spécifiques peuvent différer. L'essai souligne la nécessité de faire preuve de flexibilité tout en respectant des normes de comportement élevées et décrit comment les devoirs de diligence et de loyauté pourraient être étendus à des fiduciaires artificiels.
L’étude n’évite cependant pas d’évoquer d’éventuelles lacunes. Une analyse approfondie est effectuée sur des questions telles que les préjugés, le manque de transparence (le problème de la « boîte noire »), les risques pour la sécurité et la possibilité pour des administrateurs extrêmement intelligents de contrôler les conversations. Pour réduire ces dangers, le rapport suggère des cadres éthiques, des politiques de transparence et des normes précises pour les procédures décisionnelles en matière d’IA. Cet exposé ajoute beaucoup aux discussions actuelles sur l’équité algorithmique dans le développement de l’IA.
L’essai met également en garde contre le fait de considérer l’IA comme un simple outil. L’idée est que les fiduciaires artificiels devraient être capables de porter des jugements par eux-mêmes, sans les limitations d’un système préprogrammé. Afin de résoudre les contraintes du capital social et les questions éthiques complexes, l’étude propose un paradigme collaboratif dans lequel les fiduciaires humains et artificiels collaborent tout en utilisant leurs forces respectives. Dans cette collaboration, une surveillance humaine est nécessaire pour garantir que les meilleures recommandations sont mises en œuvre, et la prise de décision en matière d’IA est soumise à des normes éthiques strictes.
Influencer la gouvernance d’entreprise à l’avenir
La dernière section du document examine la façon dont la gouvernance d’entreprise va évoluer à mesure que l’IA devient plus intégrée. Il recommande des cadres législatifs pour freiner l’émergence de fiduciaires artificiels. Cette enquête stimule non seulement le débat scientifique, mais agit également comme un appel à l’action pour que les législateurs modifient les lois actuelles et ouvrent la porte à l’application éthique de l’IA dans les conseils d’administration. La question demeure : sommes-nous prêts à accepter l’IA comme un partenaire fiable en matière de gouvernance d’entreprise ?
