- A transição de Elon Musk para o gerenciamento de conteúdo de IA no X resultou em um erro quando o chatbot de IA do X, Grok, divulgou notícias sobre o ataque do Irã a Tel Aviv.
- Isso levantou preocupações sobre a confiabilidade da curadoria de conteúdo por IA e sua precisão, levando a acusações falsas.
- O infeliz incidente sugere a importância da intervenção humana e do controle para prevenir possíveis desastres.
Notícias horríveis flutuaram nas redes sociais quando a plataforma X de Elon Musk promoveu notícias sobre o ataque do Irã a Israel para a primeira página de seu feed de notícias, Explore.
Na quinta-feira, um dos títulos no feed de notícias principal do X dizia,
“Irã Ataca Tel Aviv com Mísseis Pesados,”
Isso teria sido uma atualização bastante preocupante considerando o cenário geopolítico e o recente ataque de Israel à embaixada do Irã na Síria, que matou altos funcionários, e as tensões entre as duas nações, que escalaram ainda mais durante a invasão de Gaza por Israel. Então, talvez não seja um bom momento, mas um momento ideal pode ser para aqueles que querem promover manchetes enganosas por qualquer motivo, e o papel da IA (inteligência artificial) não pode ser ignorado quando pode ser usada como uma ferramenta para tais atos hediondos.
A manchete era falsa, e mais preocupante, foi gerada pelo chatbot oficial da IA do X, Grok, e depois promovida para a primeira página das notícias em tendência do Explore do X no dia em que esse recurso foi atualizado para uma nova versão.
A campanha de automação de Elon Musk – Por que o incidente aconteceu em primeiro lugar
Voltando às raízes do incidente, torna-se óbvio que o título enganoso gerado pelo Grok saiu como produto da transição do trabalho crítico de curadoria de conteúdo tratado por humanos agora entregue à inteligência artificial, que ainda não é completamente inteligente.
A plataforma X anteriormente Twitter tinha um recurso que fornecia contexto escrito para tópicos de notícias em tendência. Provavelmente essas descrições foram escritas por humanos. O algoritmo do Twitter era capaz de capturar palavras-chave relevantes e compartilhar a tendência com tópicos em tendência com base nas sugestões de palavras-chave.
Mais tarde, o Twitter formou uma equipe de editores humanos para curar notícias e gerenciar tendências para melhores resultados, para que os tópicos em tendência não fossem mais deixados à mercê dos algoritmos para escolher; eles tinham um elemento humano por trás deles, então uma abordagem mais confiável foi adotada. O Twitter também se associou às principais agências de notícias como Reuters e AP para fortalecer ainda mais o processo de contexto gerado por humanos para os tópicos em tendência.
Mas as coisas mudaram quando Musk adquiriu o Twitter em 2022, renomeou-o como X e substituiu o contexto escrito por humanos nas notícias em tendência. A equipe inteira de editores humanos foi dispensada, pois Musk preferia que a IA curasse notícias com mais eficiência, mas tinha suas próprias falhas.
Os riscos de confiar apenas na IA
O fato de Musk ser tão ambicioso para o Grok e promovê-lo em qualquer ocasião, apesar de saber que ainda está em suas fases iniciais e não é tão confiável, é uma preocupação por si só. A substituição de editores humanos por Musk pode ter alguns benefícios financeiros, mas vem com seus próprios custos também.
O fato de a manchete não ter sido retirada do feed de alguém, mas sim gerada pelo Grok, o chatbot de IA nativo na plataforma X, Mas o fato mais preocupante era que, mesmo se o Grok tivesse gerado essa manchete falsa em primeiro lugar, ela foi então promovida para o topo da página de notícias Explore.
Isso mostra que não havia um sistema de verificação entre a geração e promoção desta notícia, e se havia algum sistema, não era suficiente o suficiente, e a empresa confiava totalmente na IA para fazer o trabalho. Como dito anteriormente, a IA ainda não é inteligente o suficiente para lidar com tópicos sensíveis, apesar do fato de que oferece muitos benefícios de dissecar dados e fornece resultados com mais eficiência do que humanamente possível. Ainda assim, há áreas que precisam de intervenção humana, e a IA pode levar algum tempo para se desenvolver até esse estágio. Até lá, confiar exclusivamente em procedimentos de IA não é uma jogada inteligente.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
