ÚLTIMAS NOTÍCIAS
SELECIONADO PARA VOCÊ

Erros de busca de saúde nos Google AI Overviews levantam preocupações

PorAamir SheikhAamir Sheikh 3 min de leitura
Consultas relacionadas à saúde estão acionando mais Visões Gerais da IA no Google

Google IA Overviews

  • Perguntas relacionadas à saúde estão gerando mais resumos de IA, o que é uma preocupação para os analistas.
  • Médicos afirmam que misturar fatos de diferentes fontes faz com que estatísticas menos credíveis pareçam mais confiáveis.
  • Alguns analistas argumentam que a Google parece estar trabalhando em seus Resumos de IA para torná-los mais confiáveis.

A Google está usando inteligência artificial para responder consultas sobre questões de saúde. Alguns analistas consideram isso preocupante, dado que o recurso de Resumos de IA pode fornecer informações não confiáveis.

Profissionais da área médica dizem que os Resumos de IA podem ser uma preocupação, especialmente ao responder a consultas de saúde pessoais. Eles argumentaram que o recurso tem potencial para divulgar informações imprecisas, embora também possa orientar as pessoas em direção ao tratamento médico necessário, segundo um relatório recente do New York Times.

Erro na busca de Resumos de IA alimenta sentimentos sobre alucinações de IA

O Google introduziu os Resumos de IA, um recurso que gera resumos de conteúdo de sites e os exibe na página de resultados de pesquisa do Google. Poucos dias após o lançamento, o recurso apresentou uma ampla gama de imprecisões, pois baseou suas respostas em fontes falhas. Um evento que alimenta ainda mais a percepção de que a IA está propensa a alucinações e pode gerar informações factualmente incorretas.

Também leia: O Google limita os Resumos de IA para consultas satíricas e sem sentido

Resultados de pesquisa relacionados à saúde que administram uma dose diária de rock ou pedem aos usuários que comam pizzas coladas geraram uma reação negativa. Os Resumos de IA citam fontes como a Organização Mundial da Saúde (OMS), WebMD, PubMed e Mayo Clinic. No entanto, não se limitam a essas fontes. Analistas afirmam que a ferramenta extrai informações do Reddit, Wikipedia, diversos blogs e sites de comércio eletrônico.

Hema Budaraju, diretora sênior de gerenciamento de produtos no Google, disse que existem salvaguardas adicionais para consultas relacionadas à saúde, mas recusou-se a revelar mais detalhes. Hema acrescentou que algumas consultas não acionam os Resumos de IA, por exemplo, se o sistema detectar uma situação de automutilação.

O Google afirmou que os AI Overviews integram-se ao Google Knowledge Graph, uma base de dados que reúne informações de diversas fontes, mas não forneceu detalhes sobre os sites que suportam a saída da funcionalidade de pesquisa assistida por IA.

O Google exibe mais AI Overviews para consultas relacionadas à saúde

Os resultados tradicionais, frequentemente chamados de "dez links azuis", eram úteis aos utilizadores, pois estes conseguiam distinguir entre fontes médicas reputadas, links pagos ou websites menos credíveis. Com os AI Overviews, o cenário mudou. Agora, um único bloco de texto apresenta informações recolhidas de diferentes fontes, o que, segundo analistas, gera confusão.

Kate Knibbs, da Wired, disse em um podcast:

"Se escrever algo sobre asma ou se tenho diabetes ou, basicamente, se está a pesquisar qualquer coisa relacionada com doenças, é muito provável que ainda hoje veja um AI Overview. Quero dizer, não é para todos; ainda são cerca de 63 por cento. E acho que depende."

Alguns médicos, como o Dr. Dariush Mozaffarian, afirmam que os Resumos de IA apresentam alguns fatos corretos e os resumem em respostas, mas não diferenciam entre evidências de estudos observacionais e ensaios randomizados.

Outra camada de desinformação é adicionada quando o recurso embaralha as informações. Por exemplo: “O chá verde contém antioxidantes e ajuda a prevenir o câncer.” Enquanto a primeira parte é verdadeira, a segunda ainda não foi comprovada clinicamente. Quando tais afirmações são listadas juntas, elas passam uma falsa impressão de credibilidade.

O Google restringiu os Resumos com IA

Pessoas que acompanham a implementação da IA recomendam cautela ao acessar resultados de busca relacionados à saúde gerados por IA. Elas afirmam que os usuários devem considerar os termos finos sob algumas respostas que dizem: “Isso é apenas para fins informativos.” O relatório do NYTimes destacou que a IA generativa está na fase experimental e que os usuários devem consultar médicos durante qualquer condição grave.

Também leia: Atualizações do algoritmo central do Google e os Resumos com IA estão reduzindo o tráfego dos editores

Em um comunicado em 30 de maio, o Google afirmou que havia reduzido o uso dos Resumos com IA em algumas categorias. Dados de uma empresa de SEO, a Brightedge, corroboram a posição do Google, sugerindo que a redução já havia começado antes do anúncio da empresa. 

Outros relatórios também indicam que o Google começou a reverter os Resumos com IA para certas categorias mesmo antes que os internautas começassem a zombar das respostas sem sentido. No entanto, há alegações de que a categoria de saúde continua apresentando um alto número de Resumos com IA. Knibbs diz,

“Conversei com outros pesquisadores de SEO que também descobriram que a área da saúde ainda estava produzindo muitos Resumos com IA.”

Knibbs diz que testou algumas consultas relacionadas à saúde e encontrou resultados diferentes em poucas horas, o que mostra que a Google está trabalhando para melhorar os resultados. Ela disse: “Ok, eles estão tentando. Não sei se estão fazendo um trabalho bom o suficiente, mas definitivamente estão tentando.”


Reportagem da Cryptopolitan por Aamir Sheikh

Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.

Compartilhe este artigo

Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.

Aamir Sheikh

Aamir Sheikh

Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.

MAIS … NOTÍCIAS