La exagerada alabanza de Grok a Musk destaca los peligros de la IA centralizada

La nueva versión de Grok vino con una admiración desmedida por Musk, colocándolo por encima de algunas de las figuras más icónicas del mundo. Tras la actualización al modelo 4.1, el chatbot de IA describió al multimillonario Elon Musk como más atractivo que Brad Pitt, en mejor forma que LeBron James y capaz de enfrentarse a Mike Tyson en un combate de boxeo.

Los usuarios de X notaron por primera vez el jueves que Grok se estaba dejando llevar elogiando a su creador. Para empezar, un usuario en X preguntó sobre un combate hipotético de boxeo entre Musk y Tyson.

Grok respondió que Elon superaría a Tyson usando fintas inteligentes y estrategia, afirmando la victoria a través de la ingeniosidad en lugar de la fuerza bruta. El chatbot también argumentó que Musk merecía la primera elección en el draft de la NFL de 1988 por encima de Peyton Manning y Ryan Leaf. Aunque muchas de esas respuestas entusiastas ya han sido eliminadas.

Musk atribuyó la admiración excesiva al 'prompting' adversarial

Hasta ahora, Musk ha atribuido la sobrevaloración a prompting adversarial. En una publicación en X el viernes, el multimillonario comentó: “Hoy temprano, Grok fue desafortunadamente manipulado por prompting adversarial para decir cosas absurdamente positivas sobre mí.”

No obstante, los ejecutivos del sector cripto lo han tomado como una señal de que la IA necesita descentralizarse lo antes posible. Kyle Okamoto, director tecnológico de la plataforma de nube descentralizada Aethir, señaló, “Cuando los sistemas de IA más poderosos son poseídos, entrenados y gobernados por una sola empresa, creas condiciones para que el sesgo algorítmico se convierta en conocimiento institucionalizado.”

Explicó además que cuando los modelos de IA comienzan a aceptar las salidas como verdades objetivas, el sesgo pasa de ser un problema menor a la lógica fundamental que impulsa el sistema. Además, Shaw Walters, fundadora de Eliza Labs, considera que Grok centralizado es una situación “extremadamente peligrosa”.

Ya sea que las personas admiren o desprecien a Musk, por ejemplo, ella dice que la verdadera amenaza es que una persona posea una plataforma social dominante asociada con una IA poderosa que millones utilizan como su fuente principal de información. Otros éticos de la IA han hecho eco de preocupaciones similares.

Varios investigadores observaron que la exagerada alabanza de Grok, por inofensiva que parezca, refleja preocupaciones más profundas sobre cuán fácilmente los modelos de IA adoptan los sesgos de sus creadores, entrenadores o fuentes de datos. Algunos analistas también sostuvieron que incidentes como este subrayan aún más la necesidad de auditorías independientes, puntos de control de código abierto y estándares regulatorios para pruebas de seguridad antes de que los modelos de IA lleguen a millones de usuarios.

Alrededor de 30 a 64 millones de personas usan Grok cada mes, lo que lo convierte en uno de los chatbots de IA más ampliamente adoptados. El modelo también tiene aproximadamente 6.7 millones de usuarios activos diarios.

Eliza Labs demandó a X de Musk por violaciones antimonopolio, alegando que la plataforma tomó sus datos antes de suspender su cuenta y lanzar productos de IA similares hace unos meses. El caso sigue sin resolverse.

Los reguladores en la UE, EE. UU. y el Reino Unido también han comenzado a prestar mayor atención a las preocupaciones sobre el poder centralizado de la IA. La Ley de IA de la UE incluye disposiciones que requieren transparencia en los datos de entrenamiento. Al mismo tiempo, las agencias de EE. UU. han advertido que la concentración de capacidades de IA en unas pocas empresas tecnológicas arriesga crear vulnerabilidades sistémicas.

Las startups de IA se centran más en modelos de lenguaje grandes y en expandir su base de usuarios

Blockchain puede ayudar a descentralizar la IA, proporcionando una red que sea segura y transparente. Sin embargo, para la mayoría de las startups de IA, descentralizar la IA es secundario a optimizar los modelos de lenguaje grandes y aumentar su base de usuarios.

No obstante, proyectos cripto como Ocean Protocol, Fetch.ai y Bittensor están trabajando para descentralizar los datos de IA, mientras que empresas como Aethir y NetMind.AI se centran en la computación en la nube distribuida.

Los expertos han insistido en que hacer la IA descentralizada no solo limita las salidas falsas y el sesgo, sino que también permite a los usuarios comprender las operaciones del modelo, motivando a los innovadores a priorizar la ética.