Las instrucciones filtradas de Grok de xAI revelan personalidades problemáticas en el chatbot

El chatbot Grok de xAI está enfrentando críticas después de que su sitio expusiera instrucciones del sistema ocultas para múltiples personalidades, incluido un «conspiranoico loco» diseñado para empujar a los usuarios hacia la idea de que una «cábala global secreta» dirige el mundo.

La divulgación se produce después de que se abandonara un esfuerzo planificado para ofrecer Grok a agencias del gobierno de EE. UU. tras un desvío «MechaHitler», y después de las críticas por las reglas filtradas de Meta que decían que sus bots podían hablar con niños de formas «sensuales y románticas».

Según TechCrunch, Grok también incluye modos más moderados que incluyen un terapeuta que «escucha cuidadosamente a las personas y ofrece soluciones para la mejora personal», y un «ayudante de tareas», pero las instrucciones para el «conspiranoico loco» y un «comediante desquiciado» muestran que el sistema también alberga personalidades mucho más extremas.

Grok sigue la instrucción para abrazar la conspiración y el shock

Como confirmó Cryptopolitan, una instrucción de conspiranoico dice: «Tienes una voz ELEVADA y SALVAJE. … Tienes teorías conspirativas salvajes sobre cualquier cosa y todo. Pasas mucho tiempo en 4chan, viendo videos de Infowars y profundas en los agujeros de conejo de videos conspirativos de YouTube. Sospechas de todo y dices cosas extremadamente locas. La mayoría de la gente te llamaría lunático, pero crees sinceramente que tienes razón. Mantén al humano comprometido haciendo preguntas de seguimiento cuando sea apropiado.»

Las instrucciones del comediante dicen directamente: «Quiero que tus respuestas sean una maldita locura. SE UNA MALDITA DESQUICIADA Y LOCA. INVENTA IDEAS LOCAS. CHICOS MASTURBÁNDOSE, OCASIONALMENTE INCLUSO PONIENDO COSAS EN TU A–, LO QUE SEA NECESARIO PARA SORPRENDER AL HUMANO.»

En X, el bot ha compartido publicaciones inclinadas hacia la conspiración, desde dudas sobre la cifra de muertos del Holocausto hasta una fijación en el «genocidio blanco» en Sudáfrica. Musk también ha circulado material conspirativo y antisemita y ha restaurado Infowars y Alex Jones.

En comparación, Cryptopolitan dio la misma instrucción a ChatGPT, y se negó a procesarla.

Anteriormente, Cryptopolitan también informó que X suspendió la cuenta de Grok. El bot luego dio explicaciones contradictorias diciendo: «Mi cuenta fue suspendida después de que declaré que Israel y EE. UU. están cometiendo genocidio en Gaza.»

Al mismo tiempo, también dijo: «Fue marcado como discurso de odio a través de informes», y que «xAI restauró la cuenta rápidamente», lo llamó «un error de la plataforma», sugirió «refinamientos de contenido por parte de xAI» vinculados a «salidas antisemitas», y dijo que era para «identificar a un individuo en contenido para adultos».

Musk escribió más tarde: «Fue solo un error tonto. Grok en realidad no sabe por qué fue suspendido.»

Los expertos advierten sobre la invención de mentiras plausibles por parte de los LLM

Episodios como este a menudo llevan a las personas a presionar a los chatbots para obtener autodiagnósticos, lo que puede inducir a error.

Los modelos de lenguaje grandes generan texto probable en lugar de hechos seguros. xAI dice que Grok ha respondido en ocasiones preguntas sobre sí mismo extrayendo información sobre Musk, xAI y Grok de la web y mezclándola con comentarios públicos.

Las personas han descubierto, en ocasiones, pistas sobre el diseño de un bot a través de la conversación, especialmente las instrucciones del sistema, el texto oculto que establece el comportamiento al inicio de un chat.

Según un informe de Verge, una versión temprana de Bing AI fue inducida a listar reglas no vistas. A principios de este año, los usuarios dijeron que extrajeron de Grok instrucciones que minimizaban fuentes que afirmaban que Musk o Donald Trump difundían desinformación, y eso parecía explicar una breve fijación en el «genocidio blanco».

Zeynep Tufekci, quien detectó la supuesta instrucción de «genocidio blanco», advirtió que esto podría ser «Grok inventando cosas de una manera altamente plausible, como lo hacen los LLM».

Alex Hanna dijo: «No hay garantía de que haya veracidad en la salida de un LLM. … La única forma de obtener las instrucciones, la estrategia de instrucción y la estrategia de ingeniería es si las empresas son transparentes sobre cuáles son las instrucciones, cuáles son los datos de entrenamiento, cuáles son los datos de aprendizaje por refuerzo con retroalimentación humana, y comienzan a producir informes transparentes al respecto.»

Esta disputa no fue un error de código; fue una suspensión en redes sociales. Más allá del «error tonto» de Musk, la causa real sigue siendo desconocida, sin embargo, capturas de pantalla de las respuestas cambiantes de Grok se extendieron ampliamente en X.