Google reçoit une pétition de centaines d'employés exigeant qu'il rejette le partenariat IA avec le Pentagone de Trump

Plus de 600 employés de Google (GOOGL, GOOG) ont dit à Sundar Pichai lundi de tenir le Pentagone à l'écart de l'IA de Google pour le travail classifié.

La lettre provenait de travailleurs au sein de DeepMind et Google Cloud, qui ont pointé du doigt un rapport de The Information indiquant que Google et le Département de la Défense des États-Unis étaient en discussions sur l'utilisation de Gemini dans des systèmes classifiés.

Les employés de Google exposent de nombreuses raisons de bloquer Gemini pour le travail secret du Pentagone

La lettre commençait par un avertissement direct à Sundar, que les travailleurs disent : « Nous sommes des employés de Google profondément préoccupés par les négociations en cours entre Google et le Département de la Défense des États-Unis. En tant que personnes travaillant sur l'IA, nous savons que ces systèmes peuvent centraliser le pouvoir et qu'ils font des erreurs. »

Les employés ont déclaré qu’ils estimaient avoir « la responsabilité de mettre en lumière et de prévenir les utilisations les plus contraires à l’éthique et les plus dangereuses » de cette technologie, grâce à leur proximité avec celle-ci.

« Nous vous demandons de refuser de rendre nos systèmes d’IA disponibles pour des charges de travail classifiées. Sinon, de telles utilisations pourraient avoir lieu sans notre connaissance ni la capacité de les arrêter », ont déclaré les employés de Google. La lettre explique ensuite qu’ils souhaitent que l’IA aide les gens, et non qu’elle soutienne des actes nuisibles. Ils ont cité les armes autonomes létales et la surveillance de masse comme craintes principales. Ils ont également indiqué que les risques dépassent ces deux domaines, car les travaux classifiés peuvent dissimuler la réalité des opérations.

Leur argument était que si Google accepte des charges de travail militaires secrètes, les travailleurs pourraient ne pas avoir moyen de vérifier l'utilisation, de la questionner ou de l'arrêter, et la seule vraie garantie est de rejeter le travail classifié avant que l'accord ne soit conclu.

Ils ont également mis en garde contre le fait qu’un mauvais choix pourrait nuire à la réputation, aux activités commerciales et à la position mondiale de Google. Les employés ont affirmé que leur propre sécurité et les infrastructures critiques font face à des menaces actives, tandis que des vies humaines et les droits civiques sont déjà en danger en raison d’une mauvaise utilisation de la technologie développée par des personnes comme eux.

Le Pentagone de Trump force l’accès massif à l’IA pour l’armée américaine

Les dirigeants du Pentagone ont déclaré que l’armée doit être libre d’utiliser l’IA commerciale pour « toutes les utilisations légales ». Les fonctionnaires affirment que cette expression laisse au gouvernement la possibilité d’utiliser la technologie dans divers cas tout en restant conforme à la loi américaine et aux règles militaires.

Les travailleurs de l’IA ne considèrent pas cela comme une protection suffisante. Leur inquiétude s’est accrue en raison du langage et des actions de Trump lui-même. Plus tôt ce mois-ci, le président Donald Trump a menacé de bombarder « chaque » pont et centrale électrique en Iran. Des experts ont déclaré au Post qu’une telle attaque violerait le droit international. Les frappes de son administration contre des navires qu’il prétendait transporter des drogues ont également été contestées par des experts en droit international.

La lettre de Google est tombée alors que d’autres entreprises d’IA sont déjà impliquées dans des conflits avec le Pentagone. Anthropic, l’entreprise privée derrière Claude, avait intégré sa technologie dans les systèmes militaires américains l’année dernière. Ces outils ont aidé à trier les données et à identifier des cibles potentielles.

Ensuite, le Pentagone a coupé Anthropic de tout travail du Département de la Défense en février. L'entreprise avait essayé d'ajouter des clauses contractuelles disant que son IA ne pouvait pas être utilisée pour la surveillance de masse ou les armes autonomes létales.

Anthropic et le gouvernement sont désormais en procès pour déterminer si cet arrêt était légal. Cette affaire a attiré davantage l’attention sur Google et OpenAI, car les deux travaillent avec l’armée américaine.

OpenAI est une entreprise privée, il n’y a donc pas de code boursier. Elle a signé un accord en février pour fournir de l’IA pour des charges de travail classifiées peu après le retrait d’Anthropic. Sam Altman, PDG d’OpenAI, a déclaré qu’il est confiant que le contrat gouvernemental interdit l’utilisation de l’IA pour la surveillance de masse aux États-Unis et les armes autonomes létales.

Google a déjà vécu cela. En 2018, des travailleurs ont protesté contre un projet Pentagone qui utilisait l'IA de Google pour identifier des objets dans des images de drones. Des centaines ont signé une pétition contre ce travail, et Google a ensuite choisi de ne pas renouveler l'accord.

Après ce conflit, Google a créé un engagement selon lequel sa technologie d’IA ne serait pas utilisée pour les armes ou la surveillance. Mais l’entreprise a passé ces dernières années à rechercher davantage de contrats militaires. L’année dernière, Google a levé ces limites. En décembre, elle a signé un accord permettant au Département de la Défense d’utiliser Gemini.