La seguridad es tarea de todos: Elon Musk responde a las preocupaciones sobre el éxodo de xAI

Elon Musk está siendo criticado por ignorar las medidas de seguridad después de que ex empleados informaron que desmanteló el departamento de seguridad interna en su startup xAI, responsable del chatbot Grok. 

originales de xAI cofundadores siguen trabajando en la empresa, después de que varios de ellos la abandonaran por diversos motivos, entre ellos, para crear sus propias empresas y quejas por el estancamiento creativo.

¿xAI está sacrificando la seguridad para competir con OpenAI?

Una fuente que habló con The Verge afirmó que el equipo de seguridad de xAI ha sido disuelto de facto, diciendo: "La seguridad es una organización muerta en xAI".

Según los informes, ha habido una presión por el contenido "sin filtrar", lo que ha llevado a centrarse en las capacidades NSFW (No apto para el trabajo) para la IA Grok.

Ex empleados alegan que Musk considera las medidas de seguridad como una forma de "censura". Afirman que se anima a los ingenieros a "acelerar la producción" inmediatamente, a veces saltándose las fases de prueba tradicionales.

esta cultura ha Según se informa, generado fricción interna entre los líderes, lo que provoca que a menudo choquen sobre las prioridades del producto en grandes chats grupales en la plataforma X.

Musk argumentó en X que "la seguridad es responsabilidad de todos ".

Usando a Tesla y SpaceX como ejemplos, dijo que ninguna de las dos compañías tiene un departamento de seguridad masivo edent , pero que producen los automóviles y cohetes más seguros del mundo.

Para Musk, los departamentos de seguridad separados son a menudo “falsos” y existen sólo para “apaciguar las preocupaciones de los externos” sin tener ningún poder real para mejorar el producto.

En la actual batalla legal de Musk con OpenAI y su director ejecutivo, Sam Altman, el ejecutivo ha criticado frecuentemente a OpenAI por convertirse en una empresa con fines de lucro de código cerrado que prioriza las ganancias sobre la seguridad, pero se le acusa de hacer lo mismo al eliminar los controles y equilibrios internos que impiden que la IA genere contenido dañino o sesgado.

Contratación frecuente en xAI

Tras el reciente anuncio de la fusión entre xAI y SpaceX, que resultó en una valoración interna de aproximadamente 1,25 billones de dólares, la compañía ha experimentado una oleada de salidas de altos ejecutivos, lo que ha generado cuestionamientos sobre su cultura interna, su dirección técnica y su enfoque en la seguridad de la IA. Exempleados describen la empresa como una organización de seguridad "muerta".

Dos de los cofundadores más destacados de la empresa, Yuhuai (Tony) Wu y Jimmy Ba, anunciaron recientemente su partida. Wu declaró que era "momento de comenzar una nueva etapa", mientras que Ba señaló que necesitaba "reorientar su perspectiva general ". Solo la mitad de los doce cofundadores originales que lanzaron xAI permanecen en la empresa. Varios ingenieros y empleados también han renunciado, y muchos han manifestado su intención de fundar sus propias empresas de IA. Un grupo de exempleados ya ha lanzado "Nuraline", una startup centrada en infraestructura de IA.

Algunos empleados , como Vahid Kazemi, sugirieron que la industria se ha estancado, escribiendo en X que "todos los laboratorios de IA están construyendo exactamente lo mismo". Otros sugirieron que xAI está estancada en una "fase de puesta al día", tratando simplemente de replicar lo que OpenAI y Anthropic lograron hace un año en lugar de innovar.

En una reunión interna de todo el personal, Musk explicó que xAI ahora se dividirá en cuatro sectores principales, a saber, Grok Main y Voice, Coding y Data Macrohard.

El supercúmulo Colossus de xAI en Memphis, Tennessee, alberga actualmente 100 000 GPU Nvidia H100 y se está ampliando a 200 000. Este hardware es esencial para entrenar a «Grok 3», que, según Musk, superará a todos los demás modelos de IA del mercado.