Gouvernance de l'IA renforcée dans les agences fédérales américaines avec de nouveaux protocoles de gestion

Le Bureau de la gestion et du budget (OMB) des États-Unis a publié une nouvelle politique pour assurer une supervision efficace du secteur de l'IA en pleine expansion dans ses contrats gouvernementaux. La directive est destinée à aider les départements fédéraux et les agences à suivre les tendances émergentes en matière d'innovation, la gestion des risques et la gouvernance.

Le mémorandum, rédigé par Mme Shalanda D. Young, met l'accent sur les principes fondamentaux pour mettre en œuvre les technologies d'IA sans nuire aux droits et à la sécurité des personnes. La position de l'administration est d'utiliser cette technologie de manière judicieuse et simultanément au profit des autres.

Établissement de chefs de l'IA pour diriger la gouvernance responsable de l'IA et l'innovation

Une exigence de base du mémorandum est de fournir à chaque département et agence la possibilité de désigner un Directeur de l'IA (CAIO) dans les 60 jours pour avoir un rôle dédié à la supervision des initiatives d'IA et à la coordination continue des efforts avec les politiques fédérales existantes en matière d'IA et les principes éthiques. 

Cette manœuvre établit la philosophie de la branche exécutive d'avoir un organe de gouvernance de l'IA bien placé au sein des normes et de la bureaucratie du gouvernement fédéral, et supervise donc et assure la responsabilité. 

Les devoirs des CAIOs porteront une lourde responsabilité sur leurs épaules, y compris la coordination de l'utilisation de l'IA, la stimulation de l'innovation, l'administration des risques associés et la consultation des dirigeants de leurs agences sur les questions d'IA en tant que conseillers principaux.

Les directives résument les appels en faveur d'un cadre d'innovation responsable en matière d'IA, encourageant les agences à développer des options pour intégrer les technologies d'IA afin d'améliorer leur capacité à adopter efficacement les technologies d'IA. 

Cependant, cela montre l'importance d'introduire des réglementations pour minimiser les risques associés à l'IA, qui vont des biais à d'autres effets négatifs. Les agences de la loi sur le Trésor (CFO Act) vont jusqu'à développer des stratégies d'entreprise qui appellent explicitement à utiliser l'IA pour promouvoir la responsabilité aux côtés de la promotion de l'innovation ; le gouvernement applique une méthodologie complète pour s'assurer que l'innovation est cultivée tout en renforçant la confiance du public.

Sauvegarder l'intérêt public par la gestion des risques de l'IA

Le mémorandum recommande de rendre les modèles d'IA, les codes et les données utilisables et partageables, facilitant ainsi les barrières à l'utilisation de l'IA. En raison de cette approche descendante, le gouvernement peut faire progresser ses capacités d'innovation et promouvoir l'efficacité et la coopération au sein de ses différents secteurs.

Le mémorandum énumère de nouvelles règles et recommandations pour réduire les risques qui peuvent résulter de l'utilisation de l'IA et toucher la sécurité publique, les libertés et les droits. En plus de cela, il définit les pratiques clés de gestion des risques pour les applications d'IA critiques et à haut risque, présentant aux représentants des agences un moyen d'identifier les points critiques. En même temps, l'utilisation de l'IA est devenue plus courante.

À l'ère de la nécessité croissante de garantir l'impartialité de l'IA dans la prise de décisions, ce protocole jette les bases pour que les agences s'y conforment, en fournissant certaines règles pour prévenir les manipulations et les illégalités. L'élaboration de la gestion des risques prouve que l'administration prend soin de la sécurité de la population et profite des avantages de l'IA.

Le cadre d'inventaire des cas d'utilisation de l'IA proposé dans le mémorandum englobe la stratégie conçue pour être exécutée annuellement et incarne une approche systématique et transparente qui traite de l'intégration de l'IA dans l'ensemble du gouvernement fédéral. 

En plus des agences qui devraient rendre compte des métriques appliquées des cas d'utilisation de l'IA qui ne sont pas soumises à un examen approfondi, cela fournira la transparence nécessaire et maintiendra l'intégrité.

Équilibrer l'innovation et l'éthique de l'IA dans la stratégie du gouvernement américain

Les organes de gouvernance de l'IA au sein des agences de la loi sur le Trésor (CFO Act) sont abordés, ce qui signifie qu'une approche organisée de la gouvernance de l'utilisation de l'IA est adoptée, y compris les fonctions politiques, programmatiques, de recherche et réglementaires. 

Cette gouvernance matricielle est destinée à élargir la capacité du gouvernement à mettre en œuvre des politiques innovantes de manière responsable, en harmonisant les initiatives d'IA avec les objectifs politiques plus larges et les valeurs sociétales.

La publication du mémorandum de l'OMB pourrait être la première étape dans la grande image des tactiques futures du gouvernement américain envers l'intelligence artificielle, et peut être considérée comme le juste milieu entre l'accélération technologique et le contrôle contrôlé et éthique. 

En définissant des paramètres d'utilisation de l'IA bien définis tels que les rôles, les responsabilités et les pratiques prescrites, la réglementation est destinée à former un environnement propice expérimenté aux deux extrémités de l'innovation libre et des responsabilités de reddition de comptes à la confiance du public. 

Alors que l'IA est de plus en plus utilisée pour les activités et la prestation de services au niveau de l'État, cette approche proactive de réglementation et de gestion des risques devient la seule référence pour l'IA qui offre une IA responsable et intelligemment utilisée sans être ennuyeuse.

Histoire originale de : https://www.whitehouse.gov/wp-content/uploads/2024/03/M-24-10-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-Artificial-Intelligence.pdf