Os erros de pesquisa na seção de informações gerais de IA do Google levantam preocupações

O Google está usando inteligência artificial para responder a perguntas sobre questões de saúde. Alguns analistas consideram isso preocupante, visto que o recurso Visão Geral da IA ​​pode fornecer informações não confiáveis.

Profissionais da área médica afirmam que as Visões Gerais de IA podem ser preocupantes, especialmente ao responderem a perguntas sobre saúde pessoal. Eles argumentam que o recurso tem o potencial de fornecer informações imprecisas, embora também possa orientar as pessoas para o tratamento médico necessário, de acordo com uma reportagem recente do New York Times.

Erro de busca em Visão Geral de IA alimenta sentimentos de alucinação por IA

O Google lançou o AI Overviews, um recurso que gera resumos do conteúdo de sites e os exibe na página de resultados de busca do Google. Poucos dias após o lançamento, o recurso apresentou uma série de imprecisões, pois baseou suas respostas em fontes falhas. Esse fato reforça a percepção de que a IA é propensa a delírios e pode gerar informações factualmente incorretas.

Leia também: O Google limita as Visões Gerais de IA para consultas satíricas e sem sentido.

Resultados de buscas relacionados à saúde, como recomendações diárias de ingestão de pedras ou sugestões para comer pizzas coladas, geraram reações negativas. O AI Overviews cita fontes como a Organização Mundial da Saúde, WebMD, PubMed e Mayo Clinic, mas não se limita a elas. Analistas afirmam que a ferramenta extrai informações do Reddit, Wikipedia, diversos blogs e sites de comércio eletrônico.

Hema Budaraju, diretora sênior de gerenciamento de produtos do Google, afirmou que existem mecanismos de proteção adicionais para consultas relacionadas à saúde, mas se recusou a revelar mais detalhes. Hema acrescentou que algumas consultas não acionam as Visões Gerais de IA, por exemplo, se o sistema detectar uma situação de automutilação.

O Google afirmou que o AI Overviews se integra ao Google Knowledge Graph, uma base de conhecimento que contém dados extraídos de diversas fontes, mas não forneceu detalhes sobre os sites que dão suporte aos resultados da função de busca assistida por IA.

O Google exibe mais visões gerais de IA para consultas de saúde

Os resultados tradicionais, frequentemente chamados de “dez links azuis”, eram úteis para os usuários, pois permitiam distinguir entre fontes médicas confiáveis ​​e links pagos ou sites menos credíveis. Com as Visões Gerais de IA, o cenário mudou. Agora, um único bloco de texto exibe informações coletadas de diferentes fontes, o que, segundo analistas, causa confusão.

Kate Knibbs, da Wired, disse em um podcast:

“Se você digitar algo como asma ou diabetes, ou basicamente qualquer coisa relacionada a doenças, é muito provável que ainda hoje você veja uma Visão Geral de IA. Quer dizer, não são todos; ainda são cerca de 63%. E acho que depende.”

Alguns médicos, como o Dr. Dariush Mozaffarian, afirmam que as Visões Gerais de IA mostram alguns fatos corretos e os resumem em respostas, mas não diferenciam entre evidências de estudos observacionais e ensaios randomizados.

Outra camada de desinformação surge quando a matéria mistura informações. Por exemplo: "O chá verde contém antioxidantes e ajuda a prevenir o câncer". Embora a primeira afirmação seja verdadeira, a segunda não foi comprovada clinicamente. Quando essas alegações são listadas juntas, criam a falsa impressão de credibilidade.

O Google restringiu as Visões Gerais de IA

Especialistas que acompanham a implementação da IA ​​recomendam cautela ao se deparar com resultados de busca relacionados à saúde gerados por IA. Eles afirmam que os usuários devem considerar as letras miúdas em algumas respostas, que dizem: "Esta informação é apenas para fins informativos". do NYTimes reportagem observou que a IA generativa está em fase experimental e que os usuários devem consultar médicos em caso de qualquer condição grave. 

Leia também: As atualizações do algoritmo principal do Google e as visões gerais de IA estão reduzindo o tráfego de editores.

Em um comunicado divulgado em 30 de maio, o Google afirmou ter reduzido o uso de Visão Geral com IA em algumas categorias. Dados da empresa de SEO Brightedge corroboram a posição do Google, sugerindo que a redução já havia começado antes mesmo do anúncio oficial da empresa. 

Outros relatos também afirmam que o Google começou a reduzir a exibição de Visões Gerais de IA para certas categorias mesmo antes que os internautas começassem a criticá-lo por suas respostas sem sentido. No entanto, há relatos de que a categoria de saúde continua apresentando um grande número de Visões Gerais de IA. Knibbs afirma:

“Conversei com outros pesquisadores de SEO que também constataram que o setor de saúde ainda produzia muitos resumos de IA.”

Knibbs afirma que testou algumas pesquisas relacionadas à saúde e encontrou resultados diferentes poucas horas depois, o que demonstra que o Google está trabalhando para melhorar os resultados. Ela disse: estão defitentando."

Reportagem Cryptopolitan por Aamir Sheikh