El trabajo de todos es la seguridad: Elon Musk responde a las preocupaciones sobre la fuga de talento en xAI

Elon Musk está siendo criticado por ignorar las medidas de seguridad después de que ex empleados informaran que desmanteló el departamento de seguridad interna de su startup xAI, responsable del chatbot Grok. 

Solo 12 de los cofundadores originales de xAI siguen empleados en la empresa después de que varios de ellos se fueran por varias razones, incluyendo para iniciar sus propias empresas y quejas sobre estancamiento creativo.

¿Está xAI sacrificando la seguridad para competir con OpenAI?

Una fuente que habló con The Verge afirmó que el equipo de seguridad de xAI se ha disuelto efectivamente, afirmando “La seguridad es una organización muerta en xAI.”

Según los informes, ha habido un impulso hacia el contenido “sin filtros”, lo que ha llevado a un enfoque en las capacidades NSFW (No Seguras Para El Trabajo) para la IA Grok.

Ex empleados alegan que Musk considera las medidas de seguridad como una forma de "censura". Afirman que se anima a los ingenieros a "enviar a producción" de inmediato, a veces omitiendo las fases tradicionales de prueba.

Esta cultura ha reportado llevado a fricciones internas entre la dirección, lo que les ha hecho chocar a menudo sobre las prioridades del producto en grandes chats grupales en la plataforma X.

Musk argumentó en X que “el trabajo de todos es la seguridad.”

Usando Tesla y SpaceX como ejemplos, dijo que ninguna de estas empresas tiene un departamento de seguridad masivo e independiente, sin embargo, producen los coches y cohetes más seguros del mundo.

Para Musk, los departamentos de seguridad separados suelen ser "falsos" y existen solo para "calmar las preocupaciones de los externos" sin tener ningún poder real para mejorar el producto.

En la batalla legal continua de Musk con OpenAI y su CEO, Sam Altman, ha criticado frecuentemente a OpenAI por convertirse en una empresa con fines de lucro de código cerrado que prioriza las ganancias sobre la seguridad, pero se le acusa de hacer lo mismo al eliminar los controles y equilibrios internos que impiden que la IA genere contenido dañino o sesgado.

Contratación frecuente en xAI

Tras el reciente anuncio de una fusión entre xAI y SpaceX que llevó a una valoración interna de aproximadamente 1,25 billones de dólares, la empresa ha experimentado una oleada de salidas de alto perfil, lo que ha llevado a cuestionar la cultura interna de la empresa, su dirección técnica y su enfoque de la seguridad de la IA. Los ex empleados describen la organización de seguridad de la empresa como "muerta".

Dos de los cofundadores más prominentes de la empresa, Yuhuai (Tony) Wu y Jimmy Ba, anunciaron recientemente que se iban. Wu declaró que era “hora de su próximo capítulo”, mientras que Ba señaló que necesitaba “recalibrar su gradiente en el panorama general.” Solo la mitad de los 12 cofundadores originales que lanzaron xAI siguen en la empresa. Varios otros ingenieros y personal también han dimitido, con muchos afirmando que tienen la intención de iniciar sus propias empresas de IA. Un grupo de ex empleados ya ha lanzado “Nuraline”, una startup enfocada en infraestructura de IA.

Algunos empleados que se fueron como Vahid Kazemi, sugirieron que la industria se ha estancado, escribiendo en X que “todos los laboratorios de IA están construyendo exactamente lo mismo”. Otros sugirieron que xAI está atascada en una “fase de seguimiento”, simplemente tratando de replicar lo que OpenAI y Anthropic lograron hace un año en lugar de innovar.

En una reunión interna con todo el personal, Musk explicó que xAI ahora se dividiría en cuatro sectores principales, a saber: Grok Main and Voice, Coding y Data Macrohard.

El supercluster Colossus de xAI en Memphis, Tennessee, alberga actualmente 100.000 GPUs Nvidia H100 y se está ampliando a 200.000 GPUs. Este hardware es esencial para entrenar "Grok 3", que Musk cree superará a todos los demás modelos de IA disponibles actualmente en el mercado.