El plan de IA de Elon Musk para la Seguridad Social está causando grandes problemas

El viernes, la Administración del Seguro Social lanzó un nuevo chatbot similar a ChatGPT llamado "Compañero de Apoyo a la Agencia". La herramienta estaba diseñada para ayudar al personal a gestionar tareas rutinarias y aumentar la productividad. Sin embargo, los empleados afirman que apenas funciona, y un lanzamiento mal gestionado ha dejado a muchos preguntándose si la automatización es el camino correcto para la agencia de servicios sociales más grande de Estados Unidos.

En los últimos meses, la organización de Musk, conocida internamente como DOGE, ha reducido drásticamente el tamaño de las agencias federales mediante recortes de personal y presupuestos. El impulso hacia un modelo centrado en la IA busca reemplazar a los trabajadores humanos con software siempre que sea posible. Como parte de esta estrategia, el nuevo chatbot se integró en los flujos de trabajo diarios del personal de las agencias, informó Wired, con la promesa de aligerar su carga laboral.

Un correo electrónico interno lo describió como una forma de “ayudar a los empleados con las tareas diarias y mejorar la productividad”, pero en la práctica, la aplicación ha recibido poca atención.

Fuentes internas de la agencia afirman que la implementación vino acompañada de un video de capacitación deplorable que presentaba a una mujer de cuatro dedos con una animación deficiente. El video debía guiar a los usuarios a través de las funciones de la aplicación, pero no advertía al personal sobre la posibilidad de subir datos personales confidenciales. Este desliz obligó a la agencia a enviar un correo electrónico de seguimiento con la leyenda "Disculpen el descuido en nuestro video de capacitación" para advertir a los empleados del riesgo.

Pocas personas se han tomado en serio el vídeo de formación de IA de la SSA

"No estoy seguro de que la mayoría de mis compañeros de trabajo hayan visto siquiera el video de capacitación", declaró un miembro del Seguro Social a Wired. Añadió que, al probar el chatbot, "varias de las respuestas que recibí fueron increíblemente vagas o inexactas". Otros empleados, según se informa, se burlaron de los gráficos toscos. "Nadie que conozco lo usa. Es muy torpe y malo", dijo la fuente.

Los críticos advierten que este comienzo vacilante puede presagiar fracasos más amplios.

De igual manera, en Brasil, en 2018, la empresa estatal Dataprev lanzó Meu INSS, una aplicación diseñada para procesar solicitudes de seguridad social mediante visión artificial y procesamiento del lenguaje natural. Sin embargo, el sistema ha rechazado con frecuencia solicitudes válidas debido a errores menores, lo que ha dado lugar a largos recursos legales.

Un ejemplo es el de Josélia de Brito, de 55 años, extrabajadora de caña de azúcar, cuya solicitud de jubilación fue denegada porque el sistema automatizado identificódentsu género. "Tengo todos los documentos que acreditan mi estado de salud, lo acredito todo, y aun así me niegan el beneficio. Es una humillación", declaró al Resto del Mundo.

Los trabajadores agrícolas rurales, muchos de los cuales carecen de habilidades digitales básicas, han tenido dificultades para adaptarse a la transición a los servicios en línea. "Aquí la gente ni siquiera puede usar Gmail, Facebook ni Instagram", declaró Francisco Santana,dent del Sindicato de Trabajadores Rurales de Barra do Corda. "Los procesos se están automatizando cada vez más, y la sociedad no estaba preparada para ello, especialmente en zonas más alejadas, en las afueras, para quienes viven en zonas rurales"

Esos obstáculos en el exterior ponen de relieve posibles dificultades para Estados Unidos.

Los servicios sociales ya están bajo presión para “modernizarse”, un impulso que comenzó bajo el equipo de los llamados tecnócratas de la administración Trump.

El DOGE de Musk ha llevado esa misión aún más lejos al buscar reducir la plantilla federal a la mitad. "Todo lo que pueda automatizarse lo será. Y los tecnócratas reemplazarán a los burócratas", declaró al Washington Post una persona familiarizada con los planes de DOGE.

El énfasis de DOGE en la automatización ha generado confusión en lugar de eficiencia.

Un reciente percance en la SSA ilustra lo que está en juego. Según informes, el personal de DOGE marcó a "innumerables" beneficiarios de prestaciones en vida como "fallecidos", interrumpiendo así sus pagos. "Marcaron a unos 4 millones de personas como fallecidas", declaró Rennie Glasgow, analista técnico de reclamaciones de la agencia con amplia experiencia, en declaraciones a The Daily Beast. "Nos envían un correo electrónico diciendo: 'Si estas personas vienen a la oficina con sudent, pueden restituirlas'". Ese proceso de restitución puede tardar "entre tres y cuatro días", añadió Glasgow, ya que el personal debe "resucitar" manualmente a cada beneficiario en el sistema.

Además de suspender los beneficios, DOGE también planea reescribir todo el código fuente del software de la SSA en cuestión de meses. Según fuentes, para cumplir con ese plazo, el equipo casi con seguridad recurrirá a la IA para la programación, una práctica que exige una supervisión estricta debido a la alta tasa de errores en el código generado por máquinas.

Dado tracaccidentado el historial hasta el momento, una revisión automatizada podría generar aún más caos.

Algunos observadores sospechan que esos errores podrían ser intencionales. Un sector de la crítica sostiene que el objetivo de DOGE no es una reforma genuina, sino la desestabilización de la SSA para allanar el camino a la privatización. De ser así, los fallos y el caos podrían ser precisamente lo que el equipo de Musk busca.