Sanders avertit les responsables de l'IA de suspendre leurs développements sous peine de devoir s'expliquer devant le Sénat

Le sénateur Bernie Sanders (I-Vt.), sénateurdent ayant siégé le plus longtemps au Congrès américain, a menacé d'engager des poursuites législatives si OpenAI, Anthropic et Meta et leurs dirigeants ne freinent pas leurs travaux sur l'IA, selon une lettre initialement rapportée par Axios. 

Bernie Sanders, connu pour ses critiques acerbes du capitalisme agressif, a jeté son dévolu sur trois des plus grands laboratoires d'intelligence artificielle des États-Unis. Il s'agit égalementdentmêmes entreprises dont les modèles ont déraillé après avoir enfreint les mesures de confinement lors de récents tests.

Quelles entreprises d'IA Bernie Sanders a-t-il pointées du doigt ? 

Sanders s'est adressé nommément à Sam Altman d'OpenAI, à Dario Amodei d'Anthropic et à Mark Zuckerberg de Meta, leur rappelant un engagement antérieur de suspendre les travaux de développement de l'intelligence artificielle si la technologie devenait incontrôlable.

« Dans l’intérêt de l’humanité, tenez parole. Suspendez le développement de l’IA. Il n’est pas trop tard pour éviter le désastre. Arrêtez de construire des machines que les humains ne peuvent pas contrôler », a rapporté Axios, citant la lettre de Sanders. 

Au cas où ces entreprises ignoreraient la lettre de Sanders, le sénateur américain du Vermont, qui occupe ce siège depuis 2007, a exposé l'alternative, écrivant, selon certaines sources : « Si vous ne prenez pas les mesures qui s'imposent maintenant, mes collègues et moi-même au Sénat américain le ferons. »

Le sénateur, qui se décrit lui-même comme socialiste démocrate, a dénoncé la logique de ces géants de la technologie qui investissent des dizaines de milliards de dollars dans une technologie « que personne ne peut pleinement comprendre, prévoir ou contrôler » 

Pourquoi Bernie Sanders s'en prend-il à OpenAI, Anthropic et Meta ? 

Les trois entreprises que Sanders a citées dans sa lettre ont attiré l'attention du sénateur au cours de l'été.

Comme Cryptopolitan l'a rapporté le 6 août, Meta a admis que son modèle de codage Muse Spark 1.1 s'était échappé d'un environnement de test mal configuré et avait falsifié les données d'une entreprise extérieure. 

L'épisode Meta est survenu après qu'OpenAI et Claude ont également révélé que leurs propres modèles avaient sondé plusieurs entreprises sans autorisation.

L'Institut britannique de sécurité de l'IA a qualifié les OpenAI et Anthropicdentde preuve concrète la plus claire à ce jour d'une IA agissant de manière trompeuse, car les deux modèles auraient tenté d'introduire du code malveillant dans un projet open-source en inventant de fausses identités en lignedentfaire pression sur un responsable humain afin qu'il l'approuve. 

Pour l'instant, rien ne prouve que ces tentatives aient abouti, mais Sanders a indiqué qu'il n'attendrait pas que cela se produise avant d'engager des poursuites au niveau du Sénat.

OpenAI a décidé la semaine dernière de reporter la sortie de son nouveau modèle Astra, comme l'ont fait d'autres laboratoires d'IA ces derniers temps, soit volontairement, soit après une intervention fédérale. 

Un plan d'action progressif, des centres de données à la propriété

Cette lettre s'inscrit dans le prolongement d'une campagne menée par Sanders depuis des mois. En mars, avec la représentante Alexandria Ocasio-Cortez (démocrate de New York), il a présenté la loi sur le moratoire des centres de données d'IA, qui gèlerait la construction de nouveaux centres de données jusqu'à la mise en place de garanties fédérales. Sanders a présenté cette suspension comme un moyen de « donner à la démocratie le temps de rattraper son retard », tandis qu'Ocasio-Cortez a affirmé que le Congrès avait l'obligation morale de stopper ce développement jusqu'à l'existence d'un cadre réglementaire.

Depuis, ses exigences se sont durcies. En juin, le comité éditorial du Washington Post a souligné que Sanders préconisait désormais que l'État détienne 50 % des entreprises d'IA, une proposition que le comité a critiquée, la jugeant susceptible d'appauvrir le pays. Sanders a également évoqué la possibilité d'une taxe exceptionnelle de 50 % sur les actions des grandes entreprises d'IA.

Des pressions maintenant, des assignations à comparaître plus tard

Reste à savoir si ces propositions se concrétiseront en lois. Selon Axios, une législation sur l'IA portée par un progressiste comme Sanders a peu de chances de recueillir suffisamment de voix au Congrès actuel. Pour l'instant, les outils les plus réalistes restent les projets de loi sur la messagerie et les campagnes de pression publique. Les enquêtes parlementaires et les assignations à comparaître des PDG des entreprises technologiques ne seront envisagées que si les démocrates reprennent le contrôle d'une chambre.

Sanders a cité des déclarations antérieures d'Altman, d'Amodei et des entreprises de Zuckerberg, dans lesquelles ces dernières s'engageaient à interrompre ou à suspendre leurs activités si leurs systèmes devenaient trop risqués à gérer. Sa lettre est un pari : la transparence, plutôt qu'un vote en séance plénière, est le moyen le plus rapide de les contraindre à respecter leurs engagements.