L'agitation dans le secteur technologique californien face au projet de loi sur l'IA

Les entreprises d'IA basées en Californie protestent contre le nouveau projet de loi qui impose des contrôles plus stricts au secteur et risque d'étouffer l'innovation. Le projet de loi oblige les entreprises à se conformer à un cadre de sécurité strict. Cela inclura la création d'un « interrupteur d'urgence » pour éteindre leurs modèles d'IA puissants alors que la bataille pour contrôler le secteur s'intensifie.  

 À lire également : Faire face à la menace de l'IA trompeuse : les chercheurs émettent un avertissement urgent

Certaines mesures proposées dans le projet de loi pourraient avoir un impact négatif sur des entreprises technologiques comme Meta, tout en créant également des restrictions pour les startups d'IA comme OpenAI, Anthropic et Cohere.

Le sénat de l'État a voté le projet de loi le mois dernier et il est désormais soumis à un vote de son assemblée générale en août de cette année.

Le projet de loi californien menace les modèles d'IA open-source

Selon arstechnica, les grandes entreprises technologiques doivent garantir qu'elles ne créeront jamais de modèles nuisibles à la société, comme les armes nucléaires ou qui aideraient aux cyberattaques.

Cependant, le projet de loi suscite un tollé de la part de certaines parties prenantes du secteur, qui arguent que cela a un effet domino sur les startups qui pourraient être contraintes de quitter l'État. Il pourrait également empêcher les grandes entreprises comme Meta de publier open-source leurs modèles.

« Si quelqu'un voulait mettre en place des réglementations pour étouffer l'innovation, on ne pourrait pas faire mieux », a déclaré Andrew NG, un informaticien qui a dirigé des projets d'IA chez Google et chez Baidu en Chine, et qui siège au conseil d'administration d'Amazon.

« Cela crée des responsabilités massives pour des risques de science-fiction, alimentant ainsi la peur chez quiconque ose innover. »

Arun Rao, responsable principal de produit pour l'IA générative chez Meta, a déclaré que le projet de loi « ingérable » mettrait « fin à l'open-source (en Californie) ».

Les protestations étaient attendues, selon le sénateur Wiener

Le sénateur d'État démocrate Scott Wiener, à l'origine du projet de loi, a fait preuve de désinvolture face aux critiques. Bien qu'il fasse face à un tollé pour son caractère trop restrictif, le législateur a indiqué que les protestations n'étaient rien de nouveau, provenant du secteur technologique.

« C'est le secteur technologique, il n'aime pas avoir de réglementation, donc il ne m'étonne pas du tout qu'il y ait une résistance. »

Le sénateur Scott Wiener.

« Fondamentalement, je veux que l'IA réussisse et que l'innovation continue, mais essayons de devancer les risques en matière de sécurité », a-t-il déclaré.

L'organisation à but non lucratif basée à San Francisco, le Centre pour la sécurité de l'IA (CAIS), dirigé par Dan Hendrycks, a cosponsorisé le projet de loi californien.

À lire également : Le « Père de l'IA » souhaite un revenu universel de base pour les pertes d'emplois liées à l'IA

Hendrycks a soutenu le projet de loi, affirmant qu'il pourrait aider à résoudre l'un des problèmes du secteur : couper les coins ronds alors que les gens veulent aussi « un minimum de supervision ».

« Il existe des pressions concurrentielles qui affectent ces organisations d'IA et qui les incitent à couper les coins ronds en matière de sécurité. »

Le secteur de l'IA a connu une croissance rapide, ce qui a également suscité des préoccupations quant à la sécurité de la technologie. L'année dernière, le milliardaire de la technologie Elon Musk a qualifié l'IA de « menace pour l'humanité ».

Reporting de Cryptopolitan par Enacy Mapakame