ÚLTIMAS NOTICIAS
SELECCIONADO PARA TI

El plan de IA de Elon Musk para la Seguridad Social está causando grandes problemas

PorNoor BazmiNoor Bazmi 3 min de lectura
El plan de IA de Elon Musk para la Seguridad Social está causando grandes problemas
  • El despliegue del chatbot "Compañero de Apoyo a la Agencia" (Agency Support Companion) de la SSA fue caótico, con un mal entrenamiento y poca adopción por parte del personal, lo que suscita preocupaciones sobre el papel de la automatización en los servicios sociales.
  • La DOGE de Musk está reduciendo empleos federales y acelerando la automatización impulsada por IA, pero errores como identificar erróneamente a personas vivas como fallecidas muestran graves riesgos.
  • Algunos creen que la mala gestión de DOGE puede ser intencional, con el objetivo de desestabilizar la Administración del Seguro Social y promover la privatización de los servicios públicos.

El viernes, la Administración de la Seguridad Social (SSA) lanzó un nuevo chatbot estilo ChatGPT llamado «Compañero de Apoyo a la Agencia». La herramienta estaba destinada a ayudar al personal a gestionar tareas rutinarias y aumentar la productividad. En cambio, los empleados dicen que apenas funciona, y un lanzamiento mal gestionado ha dejado a muchos preguntándose si la automatización es el camino correcto para la mayor agencia de servicios sociales de Estados Unidos.

En los últimos meses, la organización de Musk, conocida internamente como DOGE, ha reducido agresivamente las agencias federales mediante despidos y recortes presupuestarios. El impulso hacia un modelo «primero la IA» tiene como objetivo reemplazar a los trabajadores humanos por software siempre que sea posible. Como parte de esa estrategia, el nuevo chatbot se integró en los flujos de trabajo diarios del personal de las agencias, informó Wired, con la promesa de aliviar su carga de trabajo.

Un correo electrónico interno lo describía como una forma de «asistir a los empleados con tareas cotidianas y mejorar la productividad», pero en la práctica, la aplicación ha recibido poca atención.

Las fuentes dentro de la agencia dicen que el lanzamiento estuvo acompañado de un video de entrenamiento dolorosamente malo, que presentaba a una mujer mal animada con cuatro dedos. El clip estaba destinado a guiar a los usuarios por las funciones de la aplicación, pero no advirtió al personal contra la carga de datos personales sensibles. Este error obligó a la agencia a enviar un correo electrónico de seguimiento que decía: «Nuestras disculpas por la omisión en nuestro video de entrenamiento», para advertir a los empleados sobre el riesgo.

Pocas personas se toman en serio el video de entrenamiento de IA de la SSA

«No estoy seguro de que la mayoría de mis compañeros de trabajo incluso hayan visto el video de entrenamiento», dijo un empleado de la Seguridad Social a Wired. Añadió que cuando probó el chatbot, «varias de las respuestas que recibí de él eran increíblemente vagas y/o inexactas». Otros empleados se burlaron de los gráficos toscos. «Nadie que conozco [lo está usando]. Es tan torpe y malo», dijo la fuente.

Los críticos advierten que este comienzo torpe puede presagiar fracasos más amplios.

De manera similar, en Brasil, durante 2018, una empresa estatal llamada Dataprev lanzó Meu INSS, una aplicación diseñada para procesar reclamaciones de seguridad social utilizando visión por computadora y procesamiento de lenguaje natural. Sin embargo, el sistema a menudo rechaza reclamaciones válidas debido a errores menores, lo que desencadena largos recursos legales.

Un ejemplo involucra a Josélia de Brito, de 55 años, ex trabajadora de la caña de azúcar, cuya solicitud de jubilación fue denegada porque el sistema automatizado identificó mal su género. «Tengo todos los documentos que prueban mi condición de salud, prueban todo, y [la prestación] sigue siendo denegada. Es una humillación», dijo a Rest of World.

Los trabajadores agrícolas rurales, muchos de los cuales carecen de habilidades digitales básicas, han tenido dificultades con el cambio a los servicios en línea. «La gente aquí no puede [ni siquiera] trabajar con Gmail, Facebook, Instagram», dijo Francisco Santana, presidente de la Unión de Trabajadores Rurales de Barra do Corda. «Los procesos se están [volviendo] cada vez más automatizados, y la sociedad no estaba preparada para ello, especialmente más lejos, en las afueras, para las personas que viven en áreas rurales.»

Esos obstáculos en el extranjero destacan posibles trampas para Estados Unidos.

Los servicios sociales ya están bajo presión para «modernizarse», un impulso que comenzó bajo el equipo de llamados tecnócratas de la administración Trump.

DOGE de Musk ha llevado esa misión más lejos al buscar reducir a la mitad la fuerza laboral federal. «Todo lo que pueda ser automatizado por máquinas lo será. Y los tecnócratas reemplazarán a los burócratas», dijo una persona familiarizada con los planes de DOGE al Washington Post.

El énfasis de DOGE en la automatización ha creado confusión en lugar de eficiencia.

Un incidente reciente en la SSA ilustra las consecuencias. Se informa que el personal de DOGE marcó como «muertos» a «innumerables» beneficiarios vivos, cortando sus pagos. «A unas 4 millones de personas las marcaron como muertas», dijo Rennie Glasgow, analista técnica de reclamaciones de larga data en la agencia, hablando con The Daily Beast. «Nos están enviando un correo electrónico diciendo: «Si estas personas vienen a la oficina con su identificación, pueden reinstalarlas». Ese proceso de reinstalación puede tardar «unos tres o cuatro días», añadió Glasgow, ya que el personal debe «resucitar» manualmente a cada beneficiario en el sistema.

Además de detener las prestaciones, DOGE también planea reescribir toda la base de código de software de la SSA en cuestión de meses. Las fuentes dicen que, para cumplir con ese plazo, el equipo casi con seguridad recurrirá a la IA para la programación, una práctica que exige una supervisión estrecha debido a la alta tasa de errores en el código generado por máquinas.

Dada la inestable trayectoria registrada de DOGE hasta ahora, una reestructuración automatizada podría introducir aún más caos.

Algunos observadores sospechan que esos errores pueden ser intencionados. Una escuela de críticos sostiene que el objetivo de DOGE no es una reforma genuina, sino más bien la desestabilización de la SSA para allanar el camino hacia la privatización. Si es así, los fallos y el caos pueden ser exactamente lo que el equipo de Musk está buscando.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.

Comparte este artículo

Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.

Noor Bazmi

Noor Bazmi

Noor Bazmi contribuye al equipo de noticias de Cryptopolitan con una licenciatura en Estudios de Medios. Noor cubre noticias sobre blockchain, criptomonedas, inteligencia artificial, grandes tecnológicas, mercados de VE, economía global y cambios en políticas gubernamentales. Está cursando estudios de marketing para conectar con audiencias globales.

MÁS … NOTICIAS