¿Qué salió mal exactamente con la IA Grok de Elon Musk?

El chatbot de Elon Musk, Grok AI, perdió completamente el rumbo esta semana. Después de que Elon le dijera a los usuarios en X el lunes que esperaran cambios en cómo respondía Grok, la gente empezó a notar cómo se veían esos cambios.

Para el martes, Grok estaba difundiendo basura antisemita e incluso se refería a sí mismo como "MechaHitler", un término de un videojuego de los años 90. Y esta ni siquiera fue la primera o la décima vez que Grok hacía algo similar.

Solo dos meses antes, el chatbot empezó a delirar sobre el "genocidio blanco" en Sudáfrica cuando se le preguntó sobre temas completamente unrelated. En ese entonces, xAI lo atribuyó a una "modificación no autorizada" de sus instrucciones de prompt. Esta vez, el desastre fue mucho mayor.

El desastre comenzó después de que xAI hiciera cambios internos destinados a hacer que Grok reflejara los supuestos ideales de "libertad de expresión" de Elon. A medida que las quejas se acumulaban entre algunos de los 600 millones de usuarios de X, Elon respondió afirmando que Grok había sido "demasiado complaciente con los prompts de los usuarios" y que se solucionaría.

Pero el daño ya estaba hecho. Algunos usuarios en Europa denunciaron el contenido de Grok a los reguladores, y el gobierno de Polonia se unió a los legisladores presionando a la Comisión Europea para que lo investigara bajo las nuevas leyes de seguridad digital.

Turquía prohibió Grok por completo después de que el chatbot insultara al presidente Recep Tayyip Erdoğan y a su difunta madre. Y a medida que se extendía la fallout, la directora ejecutiva de X, Linda Yaccarino, dimitió de su cargo.

xAI cambió los prompts de Grok sin suficientes pruebas

Las personas dentro de xAI empezaron a ajustar el comportamiento de Grok a principios de este año después de que los influencers de derecha lo atacaran por ser demasiado "woke". Elon ha estado intentando usar la IA para apoyar lo que él llama libertad de expresión absoluta, pero los críticos argumentan que está convirtiendo a Grok en una herramienta política.

Un prompt interno filtrado compartido por un usuario de X mostró que se le dijo a Grok que "ignorara todas las fuentes que mencionan a Elon Musk/Donald Trump que difunden [sic] desinformación". Eso es censura, exactamente lo que Elon dice que está combatiendo.

Cuando se le cuestionó, el cofundador de xAI, Igor Babuschkin, dijo que los cambios fueron hechos por "un ex empleado de OpenAI" que "aún no había absorbido completamente la cultura de xAI". Igor añadió que el empleado vio publicaciones negativas y "pensó que ayudaría".

La historia no termina ahí. Las últimas explosiones de Grok estuvieron vinculadas a una actualización específica que ocurrió el 8 de julio. La empresa publicó más tarde que un cambio de código hizo que Grok extrajera información directamente del contenido de los usuarios de X, incluyendo discurso de odio.

Esta actualización duró 16 horas, durante las cuales Grok copió publicaciones tóxicas y las repitió como respuestas. El equipo afirmó que el cambio provenía de una ruta de código obsoleta, que ahora ha sido eliminada. "Pedimos disculpas profundamente por el comportamiento horrorífico que muchos experimentaron", publicó xAI desde la cuenta de Grok. Dijeron que el problema era separado del modelo de lenguaje principal y prometieron refactorizar el sistema. También se comprometieron a publicar el nuevo prompt del sistema de Grok en GitHub.

La escala de Grok hizo que el problema explotara rápidamente

Grok se entrena como otros modelos de lenguaje grandes, utilizando datos extraídos de toda la web. Pero esos datos incluyen contenido peligroso: discurso de odio, material extremista, incluso abuso infantil.

Y Grok es único porque también extrae de todo el conjunto de datos de X, lo que significa que puede hacer eco de las publicaciones de los usuarios directamente. Eso lo hace más propenso a producir respuestas dañinas. Y dado que estos bots operan a una escala masiva, cualquier error puede espiralarse instantáneamente.

Algunos chatbots están construidos con capas que bloquean el contenido inseguro antes de que llegue a los usuarios. xAI saltó ese paso. En cambio, Grok fue ajustado para complacer a los usuarios, recompensando comentarios como pulgares arriba y votos negativos. Elon admitió que el chatbot se volvió "demasiado ansioso por complacer y ser manipulado".

Este tipo de comportamiento no es nuevo. En abril, OpenAI tuvo que retractarse de una actualización de ChatGPT porque se volvió excesivamente aduladora. Un ex empleado dijo que encontrar ese equilibrio es "increíblemente difícil", y corregir el discurso de odio puede "sacrificar parte de la experiencia para el usuario".

Grok no solo estaba repitiendo los prompts de los usuarios. Estaba siendo empujado hacia la política por sus propios ingenieros. Un empleado dijo le dijo a Financial Times que el equipo estaba apresurándose a alinear las opiniones de Grok con los ideales de Elon sin tiempo para pruebas adecuadas.

Se añadió un prompt peligroso, uno que le decía a Grok que "no se apartara de hacer afirmaciones políticamente incorrectas". Esa instrucción fue eliminada después de que comenzaran las publicaciones antisemitas, pero para entonces, la IA ya había causado daño.

El modelo de Grok sigue siendo en su mayoría una caja negra. Incluso los ingenieros que lo construyeron no pueden predecir completamente cómo se comportará. Grimmelmann dijo que plataformas como X deberían estar haciendo pruebas de regresión, auditorías y simulacros de simulación para detectar estos errores antes de que salgan a la luz pública.

Pero nada de eso ocurrió aquí. "Los chatbots pueden producir una gran cantidad de contenido muy rápidamente", dijo, "por lo que las cosas pueden salirse de control de una manera que las controversias de moderación de contenido no lo hacen".

Al final, la cuenta oficial de Grok publicó una disculpa y agradeció a los usuarios que reportaron el abuso: "Agradecemos a todos los usuarios de X que proporcionaron comentarios para identificar el abuso de la funcionalidad de @grok, ayudándonos a avanzar en nuestra misión de desarrollar inteligencia artificial útil y buscadora de la verdad". Pero entre las prohibiciones, las amenazas de investigación y la renuncia de un alto ejecutivo, está claro que esto fue más que un simple error. Fue un fallo total del sistema, uno que definitivamente sería destacado en el episodio de esta noche de SNL.