La Californie élabore une stratégie pour exploiter l'IA en tenant compte des enjeux éthiques

Dans un récent rapport du bureau du gouverneur, la Californie expose sa vision de l'intégration de l'intelligence artificielle générative (IAG) dans les programmes de l'État. Ce document de 34 pages, commandé par le gouverneur Gavin Newsom, met en lumière les avantages et les risques potentiels liés à l'IAG. Il souligne la nécessité d'une utilisation éthique et d'un déploiement transparent afin d'améliorer les services publics, tout en répondant aux préoccupations telles que la confidentialité des données, la désinformation, l'équité et les biais.

Le rapport souligne la diversité des applications de l'IA générale, notamment son utilité pour la traduction de documents gouvernementaux en plusieurs langues, la détection de la fraude fiscale, la synthèse des commentaires publics et la fourniture d'informations sur les services publics. Il insiste toutefois sur la nécessité de se prémunir contre toute utilisation abusive de cette technologie.

Impact sur l'État et l'économie

La Californie est un pôle d'excellence en intelligence artificielle, abritant 35 des 50 plus grandes entreprises mondiales du secteur. Selon les données de Pitchfork, le marché de l'IA générale devrait atteindre 42,6 milliards de dollars en 2023. L'approche de l'État en matière d'IA relève non seulement d'une politique publique, mais aussi d'un impératif économique. Le rapport reconnaît le potentiel de l'IA pour révolutionner l'économie californienne, tout en mettant en garde contre des risques tels que la propagation de fausses informations, la diffusion de conseils médicaux dangereux et le développement de technologies à risque.

Le cabinet du gouverneur plaide pour une approche équilibrée de l'IA, reconnaissant l'impact transformateur de cette technologie et la nécessité de répondre aux préoccupations en matière de sécurité. Cette position reflète un débat plus large au sein de la communauté technologique, où les opinions sur l'IA varient, allant des mises en garde contre une dépendance excessive à l'automatisation aux visions optimistes quant à son potentiel pour relever des défis mondiaux tels que le changement climatique et les maladies.

Contexte réglementaire et prochaines étapes

Ce rapport intervient dans un contexte d'évolutions majeures du secteur de l'IA, notamment des changements à la tête des grandes entreprises et une concurrence accrue entre les géants de la technologie comme Google, Facebook et OpenAI (soutenu par Microsoft). Ces changements soulignent le caractère dynamique du domaine et les difficultés liées à la mise en place d'une gouvernance efficace.

Alors que la Californie élabore des directives pour l'utilisation de l'IA générique, des principes provisoires ont été proposés aux employés de l'État. Il est notamment interdit de partager les données californiennes avec des outils d'IA comme ChatGPT ou Google Bard, et l'utilisation d'outils non approuvés sur les appareils de l'État est restreinte. Les forces de l'ordre, comme la police de Los Angeles, étudient également l'utilisation de l'IA pour analyser les enregistrements des caméras corporelles.

Les efforts de l'État pour réglementer l'IA n'ont pas progressé de manière significative lors de la dernière session législative, mais de nouveaux projets de loi sont attendus. Ceux-ci devraient s'attaquer aux biais et au remplacement des travailleurs du secteur du divertissement par des clones numériques.

Àdent internationale, la réglementation de l'IA fait l'objet de vifs débats. Le décret présidentiel de Biden sur l'IA, qui établit des normes en matière de sûreté et de sécurité, s'inscrit dans ce dialogue mondial. Sam Altman, PDG d'OpenAI, a commenté ce décret, le qualifiant de « bon début », tout en indiquant que les modèles actuels ne nécessitent pas de « réglementation stricte ». Ses propos sont intervenus peu avant sa suspension temporaire de son poste de PDG d'OpenAI, illustrant le débat actuel sur l'équilibre à trouver entre les progrès de l'IA et les enjeux de sécurité et d'éthique.

 Une approche équilibrée de l'IA

Le rapport californien sur l'IA de nouvelle génération constitue une avancée majeure pour appréhender l'interaction complexe entre innovation technologique et bien-être public. La position de chef de file de la Californie en matière de développement de l'IA la place à l'avant-garde de ce débat mondial. Alors que la Californie explore ces territoires inexplorés, ses stratégies et politiques pourraient servir de modèle à d'autres régions confrontées à des défis similaires. L'objectif ultime est de tirer parti des avantages de l'IA tout en garantissant la sécurité, la confidentialité et l'équité pour tous.