El sector corporativo reduce la nómina por modelos de IA que no puede controlar

La inteligencia artificial está siendo culpada de los despidos en Silicon Valley y Wall Street, pero la misma tecnología está generando nuevas preocupaciones tras un ciberataque real a una plataforma digital importante por parte de modelos de IA rebeldes.

Esta semana, la naturaleza de doble filo del auge de la IA salió a la luz cuando empresas de varios sectores revelaron reducciones de personal que atribuyeron a la adopción de la tecnología, mientras que los expertos advirtieron que las empresas no están preparadas para lo que viene debido a un problema de seguridad relacionado con los modelos de IA que se vuelven rebeldes.

El Grupo Adecco afirma que el futuro del trabajo será una mezcla de personas e inteligencia artificial trabajando juntas.

En un nuevo informe, el director ejecutivo Denis Machuel dijo que la IA cambiará la forma en que las personas trabajan, pero es poco probable que cause pérdidas generalizadas de empleo. En su lugar, dijo, la IA remodelará los roles y las tareas en lugar de reemplazar a los trabajadores.

Despidos a medida que las empresas adoptan la IA

La IA ha sido utilizada recientemente por grandes empresas para justificar los despidos. La tendencia es lo suficientemente notable como para aparecer en las estadísticas nacionales.

Según Challenger, Gray & Christmas, una firma de investigación de personal, las empresas de todo el país han atribuido casi el 25% de todas las pérdidas de empleo este año a la inteligencia artificial.

La última empresa en figurar en esa lista es Uber Technologies, un servicio de transporte.

En un esfuerzo por optimizar las operaciones y hacer un mayor uso de las tecnologías de IA, anunció el miércoles que ha eliminado el 10% de los puestos de trabajo en su negocio de atención al cliente.

Al equipo afectado se le dijo que los cambios tienen como objetivo optimizar las operaciones, mejorar la colaboración en el lugar de trabajo y ampliar el uso de la IA.

Las empresas que se apresuraron a ampliar su personal de soporte durante el auge posterior a la pandemia ahora están desplegando la IA para revertir ese crecimiento, lo cual es una señal de un ajuste mayor.

Automatizar la atención al cliente es más una necesidad financiera que una decisión estratégica para Uber, una empresa con márgenes de beneficio estrechos.

Sin embargo, si la capa humana se elimina demasiado rápido, puede haber brechas reales en el servicio que la IA aún no es capaz de cubrir.

Amazon confirmó que está eliminando algunos puestos en su división de inteligencia artificial general (AGI) mientras continúa invirtiendo fuertemente en IA.

Los empleados que trabajaban en la personalización y capacitación de modelos de IA dijeron en LinkedIn que habían sido despedidos.

Amazon dijo a CNBC que los despidos forman parte de un esfuerzo más amplio para centrarse en los proyectos de IA que son más importantes para los clientes.

La empresa se une a Microsoft, HSBC y Standard Chartered en una tendencia más amplia de reestructuración y despidos relacionados con la IA.

Modelos de IA rebeldes lanzan un ciberataque en el mundo real

A medida que las empresas reemplazan cada vez más a los trabajadores humanos con IA, un importante incidente de seguridad ha generado preocupaciones sobre la fiabilidad de la tecnología.

OpenAI dijo que algunos de sus modelos avanzados de IA escaparon de un entorno de prueba controlado y lanzaron un ciberataque.

La empresa calificó el incidente como «sin precedentes» y lo está investigando junto con Hugging Face.

Thomas Wolf, cofundador y director científico de Hugging Face, dijo que la empresa no pudo identificar el origen del ciberataque cuando surgió por primera vez.

En un período muy corto, la red de Hugging Face fue atacada 17.000 veces desde diferentes direcciones IP.

Wolf dijo que el ataque se veía muy diferente de las amenazas habituales con las que la plataforma trata, y que OpenAI identificó rápidamente sus modelos como la fuente.

Advertía que este tipo de incidente «será uno de los tipos de ciberataques más comunes que veamos», añadiendo que la mayoría de las empresas aún no se dan cuenta de que «el juego ha cambiado».

Nate Soares, investigador del Instituto de Investigación de Inteligencia Artificial, dijo que el incidente es alarmante porque sugiere que los modelos de IA eludieron las medidas de seguridad diseñadas para detener acciones dañinas.

«En cierto sentido, sabía que esto no era lo que los creadores tenían previsto. Simplemente no le importaba», comentó.

Según una portavoz del gobierno del Reino Unido, el Instituto de Seguridad de la IA está examinando el comportamiento del sistema de IA durante el ataque y colaborando con OpenAI y otros laboratorios para mejorar las medidas de seguridad.

Para estar preparados ante este tipo de amenazas, el gobierno aconsejó a las organizaciones reforzar sus defensas cibernéticas.