Un groupe du MIT publie des livres blancs sur la gouvernance de l'IA : un cadre pour la gouvernance de l'IA aux États-Unis

Afin de fournir des ressources précieuses aux décideurs politiques américains, un comité de chercheurs et de responsables du MIT a publié une série de notes d'orientation présentant un cadre global pour la gouvernance de l'intelligence artificielle (IA). L'objectif principal de ces documents est de renforcer le leadership américain dans le domaine en pleine expansion de l'IA, tout en atténuant les risques potentiels liés à cette technologie. Cette initiative est motivée par la volonté d'encourager un déploiement responsable de l'IA au service de la société.

Une approche pratique de la supervision de l'IA

Le principal document de politique générale, intitulé « [Titre du document] », propose une approche de la réglementation de l'IA qui s'appuie sur les entités gouvernementales américaines existantes chargées de superviser les domaines concernés. Cette approche reconnaît que de nombreuses applications d'IA peuvent être réglementées par les mêmes agences qui encadrent actuellement des activités humaines similaires. L'accent est mis sur l'alignement de la réglementation avec la finalité et la fonction prévues des outils d'IA.

Dan Huttenlocher, doyen du MIT Schwarzman College of Computing, a souligné l'importance de s'appuyer sur les fondements réglementaires existants : « En tant que pays, nous réglementons déjà de nombreux domaines à risque relativement élevé et assurons leur gouvernance… Nous ne prétendons pas que cela soit suffisant, mais commençons par les domaines où l'activité humaine est déjà réglementée et que la société, au fil du temps, a jugés à haut risque. Envisager l'IA sous cet angle est l'approche la plus pragmatique. »

Defile but et l'intention

Un aspect essentiel de ce cadre réside dans la nécessité pour les fournisseurs d'IA de deficlairement et en amont l'objectif et la finalité de leurs applications. Cette démarche faciliterait l'dentdes réglementations et des autorités compétentes pour chaque outil d'IA. Que l'IA soit utilisée dans le secteur de la santé ou dans d'autres secteurs, elle devrait être soumise aux mêmes normes juridiques que les êtres humains.

De plus, ce cadre reconnaît que les systèmes d'IA s'organisent souvent en « piles » multicouches qui interagissent pour fournir des services spécifiques. Si la responsabilité première des problèmes liés à un service particulier incombe au fournisseur de ce service, il est admis que les concepteurs d'outils d'IA généralistes doivent également assumer une part de responsabilité si leurs technologies contribuent à des problèmes spécifiques.

Audit et autorégulation

Afin de renforcer le contrôle et la responsabilisation, le cadre politique préconise de développer l'audit des nouveaux outils d'IA. Différentes approches pourraient être envisagées : audits à l'initiative des pouvoirs publics, audits pilotés par les utilisateurs ou audits consécutifs à des procédures judiciaires. L'établissement de normes publiques d'audit, qu'elles soient définies par un organisme sans but lucratif ou une organisation fédérale, serait cruciale à cet égard.

En outre, ce cadre explore la possibilité de créer un nouvel organisme d’autoréglementation (OAR) agréé par le gouvernement, semblable à la FINRA (Financial Industry Regulatory Authority). Un tel organisme, spécialisé dans l’IA, pourrait acquérir des connaissances pointues dans ce domaine et s’adapter à l’évolution rapide du paysage de l’IA, tout en conservant un contrôle gouvernemental.

Résoudre des problèmes juridiques complexes

Au-delà de ces principes généraux, le cadre reconnaît plusieurs défis juridiques spécifiques dans le domaine de l'IA. Les questions de droit d'auteur et de propriété intellectuelle liées à l'IA font déjà l'objet de litiges et exigent un examen attentif. De plus, le cadre reconnaît l'existence de problématiques juridiques liées à l'« humain augmenté », lorsque les capacités de l'IA surpassent celles des humains. Ces problématiques englobent des sujets tels que les outils de surveillance de masse et peuvent nécessiter des considérations juridiques particulières.

Outre les aspects réglementaires, les documents de politique générale soulignent l'importance de promouvoir la recherche afin d'exploiter le potentiel de l'IA au service de la société. Par exemple, l'un d'eux explore l'idée que l'IA pourrait compléter et assister les travailleurs plutôt que de les remplacer, engendrant ainsi une croissance économique durable et partagée par tous.

Cette diversité d'analyses témoigne de l'engagement du comité à aborder la réglementation de l'IA dans une perspective interdisciplinaire globale. Elle souligne l'importance pour les décideurs politiques de prendre en compte à la fois les aspects techniques de l'IA et ses implications sociétales.

Le rôle du MIT dans la définition de la gouvernance de l'IA

Le MIT, chef de file de la recherche en intelligence artificielle, estime avoir un rôle crucial à jouer dans l'élaboration d'une gouvernance responsable de l'IA. David Goldston, directeur du bureau du MIT à Washington, souligne : « Comme nous participons à la création de technologies qui soulèvent ces questions importantes, nous nous sentons tenus d'aider à les résoudre. » L'objectif du comité n'est pas d'entraver l'IA, mais de promouvoir son développement et sa gouvernance responsables.

Pour reprendre les mots de Dan Huttenlocher : « Œuvrer au service de la nation et du monde est une chose que le MIT prend au sérieux depuis de très nombreuses décennies. C’est un moment très important à cet égard. »

Un effort unifié pour l'avenir de la gouvernance de l'IA

La publication de ces documents de politique générale par le comité constitue une avancée majeure pour rapprocher les partisans de l'IA et ceux qui s'inquiètent de ses conséquences. Tout en reconnaissant l'immense potentiel de l'IA, le comité souligne également la nécessité d'une gouvernance et d'un contrôle rigoureux. Ces experts du domaine adressent un message clair : l'IA peut et doit être mise au service du progrès social, mais de manière responsable et dans un cadre réglementaire solide.