Les préoccupations éthiques s'intensifient concernant le rôle de l'IA Grok dans le gouvernement américain

Le Département de l'efficacité gouvernementale (DOGE) d'Elon Musk a discrètement déployé une version adaptée de son chatbot IA Grok dans les agences fédérales, soulevant des alarmes sur d'éventuelles violations de la vie privée et des conflits d'intérêts.

Reuters a cité trois sources au sein du DOGE affirmant que l'équipe utilisait Grok pour trier et analyser des données gouvernementales sensibles, générant des rapports et des analyses à des vitesses supérieures aux méthodes traditionnelles.

Le DOGE enfreint l'éthique avec le mouvement Grok IA

Selon les trois insiders, les ingénieurs du DOGE ont installé des paramètres personnalisés sur Grok, un chatbot lancé par xAI de Musk à la fin de 2023, pour accélérer l'examen des données et automatiser la rédaction de rapports.

« Ils lui alimentent des ensembles de données gouvernementaux, posent des questions complexes et obtiennent des résumés instantanés. »

Un Insider.

Un autre insider a ajouté que le personnel du DOGE avait encouragé les employés du Département de la sécurité intérieure (DHS) à utiliser Grok pour des analyses internes, malgré l'absence d'approbation formelle de l'outil par l'agence.

Ce qui reste incertain, c'est exactement quelles informations classifiées ou personnellement identifiables ont été téléchargées dans Grok ou dans quelle mesure il a été entraîné sur des dossiers fédéraux. Si des matériaux sensibles étaient inclus, cette pratique pourrait enfreindre les lois fédérales sur la vie privée et les règles de conflit d'intérêts.

Cinq experts en éthique et en technologie avertissent que cet accès pourrait donner aux entreprises de Musk des aperçus disproportionnés des données de passation de marchés non publiques et même aider à affiner Grok lui-même à des fins privées.

En théorie, tout modèle d'IA entraîné sur des ensembles de données gouvernementaux confidentiels doit respecter des garanties juridiques strictes. Les protocoles de partage de données impliquent généralement plusieurs validations et une supervision pour prévenir les divulgations non autorisées.

En contournant ces contrôles, le DOGE risque d'exposer les détails personnels de millions d'Américains et de remettre à xAI un trésor d'informations du monde réel indisponibles pour les concurrents.

Le DOGE insiste sur le fait que sa mission est d'éradiquer le gaspillage, la fraude et les abus. Un porte-parole du DHS a déclaré à Reuters que le DOGE n'a jamais pressé le personnel d'adopter un outil spécifique.

« Nous nous concentrons sur l'efficacité », a déclaré le porte-parole. Mais deux sources contredisent cela, affirmant que ces dernières semaines, les représentants du DOGE ont poussé les divisions du DHS à tester Grok pour des tâches allant de l'analyse des charges de travail en matière d'immigration à la prévision budgétaire, même après que le DHS a brusquement bloqué toutes les plateformes d'IA commerciales par crainte de fuites de données.

Conformément à la politique actuelle du DHS, les employés ne peuvent utiliser les chatbots commerciaux que pour des travaux non classifiés et non confidentiels, tandis qu'un IA DHS sur mesure gère les dossiers sensibles. Mais lorsque ChatGPT et d'autres ont été désactivés en mai, les avancées du DOGE se sont produites dans une zone grise juridique : le bot interne du DHS est resté en ligne, mais Grok n'a jamais été officiellement intégré.

Musk utilise-t-il le DOGE pour centraliser le contrôle ?

Au-delà du DHS, l'influence du DOGE s'étend aux réseaux du Département de la défense, où une douzaine d'analystes auraient été informés qu'un outil d'IA tiers surveillait leurs activités. Bien que les porte-parole du DoD aient nié que le DOGE ait guidé tout déploiement d'IA, des e-mails et des échanges de messages texte du département obtenus par Reuters suggèrent le contraire.

Les critiques voient ces mouvements comme illustratifs de la stratégie plus large de Musk pour exploiter l'IA afin de centraliser le contrôle sur la bureaucratie, puis de monétiser le flux de données qui en résulte.

« Il y a une apparence claire d'auto-enrichissement. »

Richard Painter, professeur en éthique gouvernementale.

Si Musk a directement ordonné le déploiement de Grok, il pourrait violer des dispositions pénales interdisant aux fonctionnaires d'influencer des décisions qui bénéficient à leurs intérêts privés.

Au cœur du débat se trouve le double rôle de Grok en tant que chatbot public sur X et moteur d'analyse expérimental à l'intérieur des pare-feu gouvernementaux. Le site web de xAI laisse même entendre que les interactions des utilisateurs peuvent être surveillées « à des fins commerciales spécifiques », suggérant que chaque requête fédérale pourrait alimenter la boucle d'apprentissage de Grok.

Deux membres du personnel du DOGE, Kyle Schutt et Edward Coristine, ce dernier connu en ligne sous le nom de « Big Balls », ont mené la majeure partie de l'initiative en matière d'IA. Bien qu'ils aient refusé de commenter, leurs efforts s'inscrivent dans une tendance ; au cours de la dernière année, le DOGE a licencié des milliers de fonctionnaires de carrière, pris le contrôle de bases de données sécurisées et défendu l'IA comme l'outil ultime pour une refonte bureaucratique.

Les défenseurs de la vie privée mettent en garde : intégrer une IA non vérifiée dans des environnements de sécurité nationale à haut risque est une recette pour des fuites de données, du vol d'identité et l'exploitation par des adversaires étrangers.

« Il s'agit d'une menace pour la vie privée aussi grave que possible », déclare Albert Fox Cahn du Surveillance Technology Oversight Project.

Il existe également des craintes que, avec peu de transparence et peu de garde-fous, l'expérience IA de DOGE puisse remodeler la gouvernance des données fédérales, que le public le réalise ou non.