Le projet d'Elon Musk d'intelligence artificielle pour la sécurité sociale cause de graves problèmes

Vendredi, l'administration de la sécurité sociale a lancé un nouveau chatbot de type ChatGPT baptisé « Agency Support Companion ». Cet outil était censé aider le personnel à gérer les tâches routinières et à accroître sa productivité. Or, selon les employés, il fonctionne à peine, et ce lancement mal géré amène nombre d'entre eux à se demander si l'automatisation est la bonne voie pour la plus grande agence de services sociaux des États-Unis.

Ces derniers mois, l'organisation de Musk, connue en interne sous le nom de DOGE, a procédé à une réduction drastique des effectifs et des budgets des agences fédérales. Cette orientation vers un modèle axé sur l'IA vise à remplacer les employés par des logiciels autant que possible. Dans le cadre de cette stratégie, un nouveau chatbot a été intégré aux processus quotidiens des agents, l'a rapporté Wired, avec la promesse d'alléger leur charge de travail.

Un courriel interne la décrivait comme un moyen d’« aider les employés dans leurs tâches quotidiennes et d’améliorer leur productivité », mais dans la pratique, l’application a reçu peu d’attention.

Selon des sources internes à l'agence, le lancement s'est fait avec une vidéo de formation catastrophique mettant en scène une femme à quatre doigts, animée de façon approximative. Censée présenter les fonctionnalités de l'application, la vidéo omettait d'avertir le personnel des risques liés au téléchargement de données personnelles sensibles. Face à cette erreur, l'agence a dû envoyer un courriel d'excuses : « Nous vous prions de nous excuser pour cet oubli dans notre vidéo de formation », afin de sensibiliser les employés au risque.

Peu de gens ont pris au sérieux la vidéo de formation à l'IA de la SSA

« Je ne suis même pas sûr que la plupart de mes collègues aient regardé la vidéo de formation », a confié un employé de la Sécurité sociale à Wired. Il a ajouté que lors des tests du chatbot, « plusieurs des réponses reçues étaient incroyablement vagues, voire inexactes ». D'autres employés se seraient moqués de l'interface rudimentaire. « Personne que je connais ne l'utilise. C'est tellement maladroit et peu pratique », a déclaré la source.

Les critiques avertissent que ce démarrage difficile pourrait annoncer des échecs plus importants.

De même, au Brésil, en 2018, une entreprise publique nommée Dataprev a lancé Meu INSS, une application conçue pour traiter les demandes de prestations sociales grâce à la vision par ordinateur et au traitement automatique du langage naturel. Cependant, le système a souvent rejeté des demandes valides en raison d'erreurs mineures, entraînant de longs recours juridiques.

Un exemple parmi d'autres : Josélia de Brito, 55 ans, ancienne ouvrière sucrière, s'est vu refuser sa demande de retraite car le système automatisé adentidentifié son sexe. « J'ai tous les documents qui prouvent mon état de santé, je prouve tout, et [la prestation] m'est quand même refusée. C'est une humiliation », a-t-elle déclaré au Rest of World.

Les travailleurs agricoles ruraux, dont beaucoup ne possèdent pas de compétences numériques de base, ont du mal à s'adapter au passage aux services en ligne. « Ici, les gens ne savent même pas utiliser Gmail, Facebook ou Instagram », déplore Francisco Santana,dent du Syndicat des travailleurs ruraux de Barra do Corda. « Les processus s'automatisent de plus en plus, et la société n'y était pas préparée, surtout dans les zones rurales reculées. »

Ces obstacles à l'étranger mettent en lumière les pièges potentiels pour les États-Unis.

Les services sociaux subissent déjà des pressions pour se « moderniser », une impulsion lancée par l'équipe de soi-disant technocrates de l'administration Trump.

Le DOGE d'Elon Musk a poussé cette mission encore plus loin en cherchant à réduire de moitié les effectifs fédéraux. « Tout ce qui peut être automatisé le sera. Et les technocrates remplaceront les bureaucrates », a déclaré au Washington Post une personne au fait des projets du DOGE.

L'accent mis par DOGE sur l'automatisation a engendré la confusion plutôt que l'efficacité.

Un incident récent à la SSA illustre bien les enjeux. Le personnel du DOGE aurait accidentellement déclaré « décédés » un nombre incalculable de bénéficiaires d'allocations, interrompant ainsi leurs versements. « Environ 4 millions de personnes ont été déclarées décédées », a déclaré Rennie Glasgow, analyste technique des demandes d'allocations au sein de l'agence, au Daily Beast. « Ils nous envoient un courriel nous informant que si ces personnes se présentent à nos bureaux avec unedent, nous pourrons les réintégrer. » Cette procédure de réintégration peut prendre « trois à quatre jours », a ajouté Glasgow, car le personnel doit « ressusciter » manuellement chaque bénéficiaire dans le système.

Outre la suspension des prestations, DOGE prévoit de réécrire l'intégralité du code source du logiciel de la SSA d'ici quelques mois. Selon certaines sources, pour respecter ce délai, l'équipe aura très probablement recours à l'IA pour la programmation, une pratique qui exige une surveillance étroite en raison du taux d'erreur élevé du code généré par machine.

de DOGE tracchaotique du jusqu'à présent, une refonte automatisée pourrait engendrer encore plus de chaos.

Certains observateurs soupçonnent que ces erreurs soient intentionnelles. Un courant critique soutient que l'objectif de DOGE n'est pas une véritable réforme, mais plutôt la déstabilisation de la SSA afin de préparer le terrain pour la privatisation. Si tel est le cas, ces ratés et ce chaos pourraient bien être précisément ce que l'équipe de Musk recherche.