Le secteur technologique californien s'indigne du projet de loi sur l'IA

Des entreprises californiennes spécialisées en intelligence artificielle protestent contre le nouveau projet de loi qui renforce le contrôle du secteur et risque de freiner l'innovation. Ce projet de loi oblige les entreprises à respecter un cadre de sécurité strict, notamment en créant un mécanisme d'arrêt d'urgence pour désactiver leurs puissants modèles d'IA, à mesure que s'intensifie la lutte pour le contrôle du secteur.  

 À lire également : Lutter contre la menace de l’IA trompeuse : des chercheurs lancent un avertissement urgent

Certaines mesures proposées dans le cadre de ce projet de loi pourraient avoir un impact négatif sur des entreprises technologiques comme Meta, et il créera également des restrictions pour les jeunes entreprises spécialisées en IA comme OpenAI, Anthropic et Cohere.

Le Sénat de l'État a adopté le projet de loi le mois dernier et celui-ci sera soumis au vote de l'assemblée générale en août prochain.

Le projet de loi californien menace les modèles d'IA open source

Selon Ars Technica, les grandes entreprises technologiques doivent garantir qu'elles ne créeront jamais de modèles nuisibles à la société, comme les armes nucléaires ou les cyberattaques.

Cependant, le projet de loi suscite une vive opposition de la part de certains acteurs du secteur, qui estiment qu'il pourrait avoir des répercussions négatives sur les jeunes entreprises, potentiellement contraintes de quitter l'État. Il risque également d'empêcher de grandes entreprises comme Meta de rendre leurs modèles accessibles en open source.

« Si quelqu'un voulait élaborer des réglementations pour étouffer l'innovation, il ne pourrait guère faire mieux », a déclaré Andrew NG, informaticien qui a dirigé des projets d'IA chez Google et Baidu en Chine, et qui siège au conseil d'administration d'Amazon.

« Cela crée des responsabilités énormes face aux risques dignes de la science-fiction, et alimente ainsi la peur chez tous ceux qui osent innover. »

Arun Rao, chef de produit principal pour l'IA générative chez Meta, a déclaré que le projet de loi « irréalisable » « mettrait fin à l'open source (en Californie) ».

Des manifestations sont attendues, selon le sénateur Wiener

Le sénateur démocrate Scott Wiener, à l'origine du projet de loi, a balayé les critiques d'un revers de main. Bien que confronté à une vague de protestations le jugeant trop restrictif, le législateur a indiqué que ces manifestations, émanant notamment du secteur technologique, n'avaient rien de nouveau.

« C’est le secteur technologique, il n’aime pas être réglementé, donc il n’est pas surprenant pour moi qu’il y ait des résistances. »

Sénateur Scott Wiener.

« Fondamentalement, je souhaite que l'IA réussisse et que l'innovation se poursuive, mais essayons d'anticiper tout risque pour la sécurité », a-t-il déclaré.

L'organisation à but non lucratif Center for AI Safety (CAIS), et dirigée par Dan Hendrycks, a coparrainé le projet de loi californien.

À lire également : Le « parrain de l’IA » réclame un revenu de base universel pour compenser les pertes d’emplois liées à l’IA

Hendrycks a soutenu le projet de loi, affirmant qu'il pourrait contribuer à résoudre l'un des problèmes de ces secteurs : les économies de bouts de chandelle à un moment où les gens souhaitent également « un minimum de contrôle »

« Il existe des pressions concurrentielles qui affectent ces organisations spécialisées en IA et qui les incitent à négliger la sécurité. »

Le secteur de l'IA a connu une croissance fulgurante, ce qui a également suscité des inquiétudes quant à la sécurité de cette technologie. L'an dernier, le milliardaire Elon Musk a qualifié l'IA de « menace pour l'humanité ».

Reportage Cryptopolitan par Enacy Mapakame