Elogios extravagantes do Grok por Musk destacam perigos da IA centralizada

A nova versão do Grok veio com alguma admiração exagerada por Musk, colocando-o acima de algumas das figuras mais icônicas do mundo. Após a atualização para o modelo 4.1, o chatbot de IA descreveu o bilionário Elon Musk como mais atraente que Brad Pitt, em melhor forma que LeBron James e capaz de enfrentar Mike Tyson em uma luta de boxe.

Usuários do X notaram pela primeira vez na quinta-feira que o Grok estava se deixando levar elogiando seu criador. Para começar, um usuário no X perguntou sobre uma luta hipotética de boxe entre Musk e Tyson.

O Grok respondeu que Elon superaria Tyson usando fintas inteligentes e estratégia, reivindicando a vitória através da engenhosidade em vez de pura força. O chatbot também argumentou que Musk merecia a primeira escolha no draft da NFL de 1988 em vez de Peyton Manning e Ryan Leaf. Embora muitas dessas respostas entusiásticas, até agora, tenham sido removidas.

Musk culpou a admiração excessiva por prompt adversarial

Até agora, Musk culpou a elogiosidade excessiva por prompt adversarial. Em um post no X na sexta-feira, o bilionário observou: “Mais cedo hoje, o Grok foi infelizmente manipulado por prompt adversarial para dizer coisas absurdamente positivas sobre mim.”

No entanto, executivos de criptomoedas tomaram isso como um sinal de que a IA precisa ser descentralizada o mais rápido possível. Kyle Okamoto, o diretor de tecnologia da plataforma de nuvem descentralizada Aethir, por exemplo, observou: “Quando os sistemas de IA mais poderosos são possuídos, treinados e governados por uma única empresa, você cria condições para que o viés algorítmico se torne conhecimento institucionalizado.”

Ele explicou ainda que quando os modelos de IA começam a aceitar saídas como verdades objetivas, o viés vai de um problema menor para a lógica fundamental que impulsiona o sistema. Além disso, Shaw Walters, fundador da Eliza Labs, considera a centralização do Grok uma situação “extremamente perigosa”.

Se as pessoas admiram ou não Musk, por exemplo, ela diz que a verdadeira ameaça é que uma pessoa possua uma plataforma social dominante associada a uma IA poderosa que milhões usam como sua principal fonte de informação. Outros eticistas de IA ecoaram preocupações semelhantes.

Vários pesquisadores observaram que os elogios exagerados do Grok — por mais inofensivos que pareçam — refletem preocupações mais profundas sobre quão facilmente os modelos de IA adotam os vieses de seus criadores, treinadores ou fontes de dados. Alguns analistas também argumentaram que incidentes como este reforçam ainda mais a necessidade de auditorias independentes, checkpoints de código aberto e padrões regulatórios para testes de segurança antes que os modelos de IA alcancem milhões de usuários.

Cerca de 30 a 64 milhões de pessoas usam o Grok todos os meses, tornando-o um dos chatbots de IA mais amplamente adotados. O modelo também tem cerca de 6,7 milhões de usuários ativos diários.

A Eliza Labs processou o X de Musk por violações antitruste, alegando que a plataforma usou seus dados antes de suspender sua conta e lançar produtos de IA semelhantes alguns meses atrás. O caso permanece sem resolução.

Reguladores na UE, EUA e Reino Unido também começaram a prestar mais atenção às preocupações sobre o poder centralizado da IA. O AI Act da UE inclui disposições que exigem transparência nos dados de treinamento. Ao mesmo tempo, agências dos EUA alertaram que a concentração de capacidades de IA em poucas empresas de tecnologia corre o risco de criar vulnerabilidades sistêmicas.

Startups de IA estão focando mais em modelos de linguagem grandes e expandindo sua base de usuários

Blockchain pode ajudar a descentralizar a IA, fornecendo uma rede que é segura e transparente. No entanto, para a maioria das startups de IA, descentralizar a IA é secundário em relação à otimização de modelos de linguagem grandes e ao aumento de sua base de usuários.

No entanto, projetos cripto como Ocean Protocol, Fetch.ai e Bittensor estão trabalhando para descentralizar os dados de IA, enquanto empresas como Aethir e NetMind.AI focam em computação em nuvem distribuída.

Especialistas insistiram que tornar a IA descentralizada não apenas limita saídas falsas e viés, mas também permite que os usuários entendam as operações do modelo, motivando os inovadores a priorizar a ética.