O favoritismo de Elon Musk em relação à IA e a automação desenfreada da X

Notícias terríveis circularam nas redes sociais quando a plataforma X de Elon Musk promoveu notícias sobre um suposto ataque do Irã a Israel para a página principal de seu feed de notícias, o Explorar.

Na quinta-feira, um dos títulos no feed de notícias principal de X dizia:

“Irã ataca Tel Aviv com mísseis pesados”

Considerando o cenário geopolítico e o recente ataque de Israel à embaixada do Irã na Síria, que resultou na morte de altos funcionários, e as tensões entre as duas nações, que se intensificaram ainda mais durante a invasão israelense de Gaza, essa atualização teria sido bastante preocupante. Portanto, talvez não seja um bom momento, mas pode ser ideal para aqueles que desejam promover manchetes enganosas por quaisquer motivos, e o papel da IA ​​(inteligência artificial) não pode ser ignorado quando pode ser usada como ferramenta para atos tão hediondos. 

A manchete era falsa e, o que é mais preocupante, foi gerada pelo chatbot oficial de IA do X, o Grok, e depois promovida à página principal da seção "Explorar" de notícias em alta do X no dia em que esse recurso foi atualizado para uma nova versão.

A iniciativa de automação de Elon Musk – Por que odent ocorreu em primeiro lugar

Tracas origens dodent, torna-se óbvio que o título enganoso gerado pelo Grok surgiu como produto da transição do trabalho de curadoria de conteúdo crítico, antes realizado por humanos, para a inteligência artificial, que ainda não é completamente inteligente.

A plataforma X, anteriormente o Twitter, possuía um recurso que fornecia contexto escrito para tópicos de notícias em alta. Provavelmente, essas descrições eram escritas por humanos. O algoritmo do Twitter era capaz de identificar palavras-chave relevantes e compartilhar a tendência com os tópicos em alta com base nas sugestões de palavras-chave.

Mais tarde, o Twitter formou uma equipe de editores humanos para selecionar notícias e gerenciar tendências para obter melhores resultados, de modo que os tópicos em alta não ficassem mais à mercê de algoritmos; eles passaram a ter um elemento humano por trás, adotando assim uma abordagem mais confiável. O Twitter também fez parcerias com importantes agências de notícias, como Reuters e AP, para fortalecer ainda mais o processo de geração de contexto humano para os tópicos em alta.

Mas as coisas mudaram quando Musk adquiriu o Twitter em 2022, renomeou-o para X e substituiu o conteúdo escrito por humanos nas notícias em alta. Toda a equipe de editores humanos foi demitida, já que Musk preferia que a IA selecionasse as notícias com mais eficiência, mas ela também tinha suas falhas. 

Os riscos de depender exclusivamente da IA

O fato de Musk ser tão ambicioso com o Grok e promovê-lo em todas as ocasiões, mesmo sabendo que ainda está em fase inicial e não é totalmente confiável, é preocupante por si só. Substituir editores humanos por IA pode trazer alguns benefícios financeiros, mas também tem seus custos.

O fato de a manchete não ter sido retirada do feed de alguém, mas sim gerada pelo Grok, o chatbot de IA nativo da plataforma X, é preocupante. Mas o mais alarmante é que, mesmo que o Grok tenha gerado uma manchete falsa, ela foi promovida ao topo da página de notícias "Explorar". 

Isso demonstra que não havia um sistema de verificação entre a geração e a promoção dessa notíciae, se havia algum sistema, ele não era suficiente, levando a empresa a confiar totalmente na IA para realizar o trabalho. Como mencionado anteriormente, a IA ainda não é inteligente o suficiente para lidar com tópicos sensíveis, apesar de oferecer muitos benefícios na análise de dados e fornecer resultados com mais eficiência do que um ser humano conseguiria. Ainda assim, existem áreas que necessitam de intervenção humana, e a IA pode levar algum tempo para atingir esse estágio de desenvolvimento. Até lá, confiar exclusivamente em procedimentos de IA não é uma decisão inteligente.