Google Limita Visões Gerais de IA para Consultas Satíricas e Sem Sentido

O Google está reduzindo a apresentação de Visões Gerais de IA em alguns resultados de pesquisa. A decisão veio após a gigante da pesquisa cometer alguns erros divulgados que criaram uma reação pública negativa na internet.

Na quinta-feira, Liz Reid, diretora de Pesquisa do Google, admitiu que a empresa estava limitando resumos gerados por IA chamados “Visões Gerais de IA”. O recurso alimentado por IA foi criticado quando começou a mostrar conteúdo dizendo às pessoas para comerem pedras e colarem queijo em suas pizzas.

Também leia: Google, OpenAI e Outros 13 Comprometem-se a Não Implantar Modelos de IA de Risco

O Google começou a mostrar Visões Gerais de IA aos seus usuários nos Estados Unidos duas semanas atrás, após seu evento I/O anual, durante o qual lançou várias ofertas baseadas em IA. A partir de quinta-feira, os usuários notaram menos perguntas, o que resultou em uma resposta de IA.

Identificar Visões Gerais de IA Falsas Requer Análise Cuidadosa

Reid escreveu em um post de blog que pessoas nas redes sociais compartilharam capturas de tela de Visões Gerais de IA que sugeriam soluções estranhas. Ela disse que a IA da empresa cometeu alguns erros, mas muitos eram falsos e nunca foram gerados pelo sistema de IA do Google.

Ela admitiu que algumas Visões Gerais de IA estranhas ou imprecisas certamente apareceram. Ela destacou as áreas onde o recurso precisa ser melhorado, mas não são consultas comumente pesquisadas. Observando as falsas, ela disse:

“Separadamente, houve um grande número de capturas de tela falsas compartilhadas amplamente. Alguns desses resultados falsos foram óbvios e bobos.”

Reid disse que o Google não mostrou nenhum Visões Gerais de IA para tópicos como fumar durante a gravidez ou deixar cães em carros. Ela incentivou os usuários que viram essas capturas de tela nas redes sociais a pesquisarem por conta própria e verificarem.

A IA do Google Agora Pode Identificar Conteúdo Satírico

O Google identificou que conteúdo satírico e consultas sem sentido eram áreas que precisavam ser abordadas para produzir Visões Gerais de IA imprecisas. O Google disse que antes das capturas de tela da consulta “Quantas pedras devo comer?” se tornarem virais, ninguém fez a pergunta. Reid disse que o Google Trends pode ser visto para confirmação.

Também leia: Opera Integra Modelos Gemini do Google para Aprimorar a IA do Navegador Aria

Outro fator é que há muito pouco conteúdo disponível sobre um tópico específico, também conhecido como vácuo de dados, que também é uma razão para Visões Gerais de IA imprecisas. Em relação à consulta de comer pedras, Reid disse que a natureza satírica do conteúdo acionou a Visão Geral de IA. O conteúdo também foi republicado por um site de software geológico, ao qual a Visão Geral de IA vinculou. Ela esclareceu:

“Então, quando alguém colocou essa pergunta na Pesquisa, uma Visão Geral de IA apareceu que vinculou fielmente a um dos únicos sites que abordou a pergunta.”

Reid não mencionou as outras Visões Gerais de IA circulando nas redes sociais, e muitos grandes publicadores também publicaram relatórios sobre elas. Por exemplo, The Washington Post publicou um relatório sobre o Google dizendo às pessoas que Barack Obama era muçulmano. A publicação também relatou outro caso em que a Visão Geral de IA do Google disse a um usuário que as pessoas deveriam beber urina para ajudar a passar cálculos renais.

O Google Tem uma Obsessão por Fóruns Públicos

A chefe de pesquisa do Google observou que a empresa testou o recurso extensivamente antes de lançá-lo ao público. Ela também admitiu que as práticas de uso do mundo real são difíceis de simular na fase de teste, mas a empresa fez um robusto red-teaming e amostragem de consultas típicas de usuários. 

Também leia: O Recurso Visão Geral de IA do Google Enfrenta Reação Negativa por Resultados Imprecisos

Alguns usuários e analistas de conteúdo da internet estão notando que o Google começou a mostrar muitos resultados de fóruns públicos como o Reddit. Alguns questionam o acordo da empresa com o Reddit, mas um porta-voz do Google disse à BBC que tais termos não faziam parte do acordo para dar mais visibilidade ao Reddit nos resultados de pesquisa.

Lily Ray, vice-presidente de estratégia e pesquisa de SEO na Amsive, uma agência de marketing, diz que agora, muitas consultas mostram resultados do Reddit. Ela também zombou do Google em um post no X (anteriormente Twitter), dizendo que todo o conhecimento do mundo (conteúdo do Reddit) é combinado com a IA.

Senhoras e senhores, todo o conhecimento do mundo, combinado com o poder da IA e um troll do Reddit. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) Mai 21, 2024

Reid disse que o recurso Visão Geral de IA inclui conteúdo sarcástico de fóruns de discussão em alguns exemplos. Ela disse que os fóruns são uma boa fonte de informações de primeira mão, mas em alguns casos, podem acionar respostas não tão úteis, como colar queijo na pizza.

A IA do Google também interpreta mal a linguagem, o que leva a informações erradas nas Visões Gerais de IA, mas a proporção para essas respostas é muito baixa, de acordo com a empresa. Reid observou que eles resolveram os problemas rapidamente por meio de melhorias ou removendo respostas que não estavam em conformidade com a política do Google.

O VP da Pesquisa do Google também disse que existem fortes barreiras de proteção para tópicos como saúde e notícias. A empresa lançou novos refinamentos de acionamento para proteções de qualidade aprimoradas para saúde. Reid disse que o sistema de detecção também foi atualizado para consultas sem sentido, a fim de não mostrá-las como Visões Gerais de IA. Ela também insinuou a confirmação de menos Visões Gerais de IA para consultas satíricas, dizendo: “Atualizamos nossos sistemas para limitar o uso de conteúdo gerado pelo usuário em respostas que poderiam oferecer conselhos enganosos.”

Reportagem da Cryptopolitan por Aamir Sheikh