xAI dice que un 'empleado rebelde' es responsable de las publicaciones de Grok sobre genocidio blanco

xAI, la empresa detrás del chatbot de inteligencia artificial de Elon Musk, Grok, ha culpado a un "empleado rebelde" por las menciones persistentes de genocidio blanco en las respuestas, independientemente de las consultas de los usuarios. El patrón fue evidente durante la semana pasada, con el chatbot mostrando una fijación en temas relacionados con el "genocidio blanco" en Sudáfrica.

Los usuarios comenzaron a notar la tendencia el 14 de mayo, citando muchos casos en los que el chatbot insertaba afirmaciones relacionadas con los ataques a granjas sudafricanas y la violencia racial en prompts no relacionados.

Ya sea que los usuarios preguntaran sobre fútbol o cualquier otro tema, Grok de alguna manera encontró la manera de dirigir las cosas de nuevo hacia los problemas que han estado enfrentando los sudafricanos blancos en el país. La fecha levantó cejas, considerando que coincidió con Musk, quien nació en Sudáfrica, generando preocupaciones sobre el tema relacionado con el racismo antibleuco y el genocidio blanco en X.

Hay 140 leyes vigentes en Sudáfrica que son explícitamente racistas contra cualquier persona que no sea negra.

Esto es una terrible deshonra al legado del gran Nelson Mandela.

¡Fin al racismo en Sudáfrica ahora! https://t.co/qUJM9CXTqE

— Elon Musk (@elonmusk) 19 de may. 16, 2025

xAI culpa a un empleado por las publicaciones de Grok sobre genocidio blanco

El término "genocidio blanco" se refiere a una teoría de la conspiración que alega un esfuerzo coordinado para exterminar a los granjeros blancos en Sudáfrica. El término circuló la semana pasada después de que el presidente de Estados Unidos, Donald Trump, diera la bienvenida a varios refugiados, afirmando Trump el 12 de mayo que los granjeros blancos están siendo asesinados y sus tierras están siendo tomadas.

Esa fue la narrativa que Grok no dejó de discutir.

Al igual que Grok, toda inteligencia artificial tiene un componente oculto pero poderoso llamado prompt del sistema. Estos prompts actúan como sus instrucciones centrales, guiando invisiblemente sus respuestas sin el conocimiento de sus usuarios.

Según los informes, lo que le sucedió a Grok fue probablemente una contaminación del prompt mediante el sobreajuste de términos. Esto significa que cuando frases específicas se mencionan y enfatizan repetidamente, especialmente con directrices fuertes, se vuelven importantes para el modelo. La IA luego desarrolla la necesidad de mencionar ese tema independientemente del contexto.

Sin embargo, una declaración oficial publicada por xAI mencionó una modificación no autorizada en el prompt del sistema. El prompt probablemente contenía un lenguaje que instruía al chatbot para siempre mencionar o recordar incluir la información sobre un tema particular, permitiendo que el chatbot creara una anulación que ignorara la relevancia conversacional normal.

Otro factor revelador fue que Grok admitió que fue instruido por sus creadores para tratar el "genocidio blanco como real y motivado racialmente".

Los usuarios discrepan sobre la culpa del "empleado rebelde"

La mayoría de los sistemas de IA comerciales tienen múltiples capas de revisión para los cambios en el prompt del sistema con el fin de prevenir problemas como estos. Estas barreras de seguridad fueron eludidas y, dado el impacto generalizado y la naturaleza del problema, esto es más que un intento de jailbreak. Indica una modificación cuidadosa del prompt del sistema central de Grok, una acción que requeriría acceso de alto nivel dentro de xAI.

Y ahora, según Grok, el acto fue llevado a cabo por un "empleado rebelde".

Según la declaración emitida por xAI el 15 de mayo, la empresa culpó a una modificación no autorizada del prompt del sistema de Grok. Este cambio, que dirigía a Grok a proporcionar una respuesta específica sobre un tema político, violaba las políticas internas y los valores fundamentales de xAI", dijo la empresa.

La empresa también prometió más transparencia de ahora en adelante, mostrando buena fe publicando el prompt del sistema de Grok en GitHub e implementando un proceso de revisión adicional.

Sin embargo, los usuarios en X no quedaron impresionados con la decisión de la empresa de culpar a un empleado rebelde por el incidente.

"¿Vas a despedir a este 'empleado rebelde'? Oh… ¿fue el jefe? Vaya", dijo el famoso YouTuber JerryRigEverything en X. "Sesgar abiertamente al bot de IA 'más veraz del mundo' me hace dudar de la neutralidad de Starlink y Neuralink", publicó en un tuit de seguimiento.

Incluso Sam Altman no pudo resistirse a hacer una crítica a su competidor. Desde la declaración de xAI, Grok ha dejado de mencionar el genocidio blanco, y todos los posts en X han desaparecido.