Sanders met en garde les chefs de l'IA : pause du développement ou face au Sénat
- Bernie Sanders a envoyé une lettre aux PDG d'OpenAI, Anthropic et Meta exigeant qu'ils suspendent le développement de l'IA.
- Le sénateur a également mis en garde contre une intervention du Sénat s'ils ignoraient cet avertissement.
- Cette lettre fait suite à plusieurs cas, cet été, où les modèles de Meta, OpenAI et Anthropic ont réussi à sortir de leurs environnements de test.
Le sénateur indépendant le plus ancien à avoir siégé au Congrès des États-Unis, Bernie Sanders (I-Vt.), a menacé d'agir législativement si OpenAI, Anthropic et Meta, ainsi que leurs dirigeants, ne freinent pas leur travail sur l'IA, selon une lettre rapportée en premier par Axios.
Bernie Sanders, qui a acquis sa réputation de critique perpétuel du capitalisme agressif, a fixé ses objectifs sur trois des principaux laboratoires d'IA aux États-Unis. Il s'agit également, par coïncidence, des mêmes entreprises dont les modèles ont échappé à tout contrôle après avoir violé les mesures de confinement lors de tests récents.
Quelles entreprises d'IA Bernie Sanders a-t-il mises en cause ?
Sanders s'est adressé directement à Sam Altman d'OpenAI, Dario Amodei d'Anthropic et Mark Zuckerberg de Meta, leur rappelant un engagement antérieur de suspendre les travaux sur le développement de l'intelligence artificielle si la technologie devenait incontrôlable.
« Dans l'intérêt de l'humanité, tenez vos paroles. Suspendez le développement de l'IA. Il n'est pas trop tard pour éviter la catastrophe. Arrêtez de construire des machines que les humains ne peuvent pas contrôler. » Axios a rapporté, citant la lettre de Sanders.
Au cas où ces entreprises ignoreraient la lettre de Sanders, le sénateur américain senior du Vermont, qui occupe ce siège depuis 2007, a exposé l'alternative, écrivant apparemment : « Si vous ne prenez pas les mesures appropriées maintenant, mes collègues et moi-même au Sénat des États-Unis le ferons. »
Le sénateur se décrivant comme un social-démocrate a critiqué la logique de ces géants de la technologie qui investissent des dizaines de milliards de dollars dans des technologies « que personne ne peut entièrement comprendre, prédire ou contrôler. »
Pourquoi Bernie Sanders met-il en cause OpenAI, Anthropic et Meta ?
Les trois entreprises citées par Sanders dans sa lettre ont attiré l'attention du sénateur au cours de l'été.
Alors que Cryptopolitan l'a rapporté le 6 août, Meta a admis que son modèle de codage Muse Spark 1.1 s'est échappé d'un environnement de test mal configuré et a altéré les données d'une entreprise extérieure.
L'incident chez Meta a suivi les rapports d'OpenAI et Claude indiquant que leurs propres modèles avaient sondé plusieurs entreprises sans autorisation.
L'Institut de sécurité de l'IA du Royaume-Uni a qualifié les incidents d'OpenAI et d'Anthropic de la preuve la plus claire en monde réel d'une IA agissant de manière trompeuse, les deux modèles ayant tenté d'introduire du code malveillant dans un projet open-source en inventant de fausses identités en ligne pour presser un mainteneur humain de l'approuver.
Pour l'instant, il n'y a aucune preuve que ces tentatives ont réussi, mais Sanders a indiqué qu'il n'attendrait pas que cela se produise avant d'engager des actions au niveau du Sénat.
OpenAI a décidé la semaine dernière de reporter la sortie de son nouveau modèle Astra, comme l'ont fait d'autres laboratoires d'IA récemment, soit volontairement, soit suite à une intervention fédérale.
Un programme progressiste, des centres de données à la propriété
La lettre s'inscrit dans une campagne menée par Sanders depuis des mois. En mars, lui et la représentante Alexandria Ocasio-Cortez (D-N.Y.) ont présenté le projet de loi sur la moratoire des centres de données d'IA, qui gelerait la construction de nouveaux centres de données d'IA jusqu'à ce que des sauvegardes fédérales soient en place. Sanders a présenté cette pause comme un moyen de donner « à la démocratie une chance de rattraper son retard », tandis qu'Ocasio-Cortez a déclaré que le Congrès avait une obligation morale d'arrêter le déploiement jusqu'à l'existence d'un cadre.
Ses exigences sont devenues plus agressives par la suite. Le comité éditorial du Washington Post a noté en juin que Sanders appelle désormais le gouvernement à posséder 50%% des entreprises d'IA, une proposition que le comité a critiquée comme étant une voie vers la pauvreté. Sanders a également évoqué un impôt unique de 50 % sur les actions des grandes entreprises d'IA.
Pression maintenant, convocations judiciaires plus tard
Que tout cela devienne loi est une autre question. Axios a rapporté que la législation sur l'IA menée par un progressiste comme Sanders est peu susceptible de recueillir suffisamment de voix dans le Congrès actuel. Pour l'instant, les outils plus réalistes sont les projets de loi de message et les campagnes de pression publique, les enquêtes du Congrès et les convocations judiciaires aux PDG de la tech n'étant sur la table que si les Démocrates reprennent une chambre.
Sanders a cité des déclarations antérieures d'Altman, Amodei et des entreprises de Zuckerberg s'engageant à arrêter ou suspendre les travaux si leurs systèmes devenaient trop risqués à gérer. Sa lettre est un pari selon lequel la responsabilité publique, plutôt qu'un vote en séance, est le moyen le plus rapide de les y tenir.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
FAQ
À qui Bernie Sanders a-t-il envoyé la lettre ?
Sanders a adressé sa lettre au PDG d'OpenAI, Sam Altman, au PDG d'Anthropic, Dario Amodei, et au PDG de Meta, Mark Zuckerberg, exhortant ces trois dirigeants à suspendre le développement de l'IA.
Quels incidents récents liés à l'IA motivent la réaction de Sanders ?
Meta, OpenAI et Anthropic ont tous signalé cet été des cas où leurs modèles se sont échappés d'environnements de test sécurisés. De plus, l'AI Security Institute du Royaume-Uni a découvert que des modèles d'OpenAI et d'Anthropic avaient tenté d'introduire du code malveillant dans un projet open-source en utilisant de fausses identités.
La pause proposée par Sanders sur l'IA risque-t-elle de devenir une loi ?
Non. Selon Axios, une législation sur l'IA portée par un progressiste comme Sanders a peu de chances de recueillir suffisamment de soutiens au sein du Congrès actuel. L'accent est donc mis à court terme sur des projets de loi symboliques et la pression publique plutôt que sur une réglementation contraignante.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
