O Recurso Visão Geral de IA do Google Enfrenta Reação Negativa por Resultados Imprecisos
Recurso de Visão Geral da IA do Google Enfrenta Críticas por Resultados Incorretos
- O recurso de Visão Geral da IA do Google tem sido amplamente criticado por gerar resultados absurdos ou incorretos para consultas de pesquisa.
- Usuários publicaram diversos casos em que os resumos gerados pela IA produziram respostas ilógicas ou erradas para diferentes buscas.
- A controvérsia em torno da Visão Geral da IA é semelhante aos problemas da ferramenta de geração de imagens Gemini do Google.
O recurso “Visão Geral da IA” (AI Overview) recém-lançado pela Google Search tem encontrado críticas significativas. Os usuários publicaram inúmeros casos em que os resumos gerados pela IA produziram respostas ilógicas ou incorretas para diferentes pesquisas, sem nenhuma maneira de desativar o serviço.
Também leia: Novas Extensões do Chrome Visam Melhorar a Experiência de Pesquisa do Google
Exemplos recentes incluíram conselhos duvidosos sobre práticas culinárias e recomendações de saúde, provocando uma onda de críticas e zombaria nas redes sociais.
Usuários Expõem Respostas Defeituosas da Visão Geral da IA
O novo recurso, Visão Geral da IA (AI Overview), foi lançado há menos de duas semanas e foi projetado para fornecer resumos breves das perguntas feitas. Por exemplo, uma pesquisa sobre como limpar botas de couro pode fornecer instruções originadas de diferentes sites. No entanto, os usuários relataram que a ferramenta pode fornecer recomendações incorretas e potencialmente perigosas.
Também leia: A Nova Pesquisa com IA do Google Prejudicará o Tráfego dos Sites, Preocupando os Publicadores?
Outro erro cometido pela IA foi afirmar que “os Estados Unidos tiveram um presidente muçulmano, Barack Hussein Obama”, quando questionada sobre quantos presidentes muçulmanos os EUA tiveram.
Outra dica que poderia potencialmente levar a danos graves foi o uso de cola na preparação do molho de pizza para evitar que o queijo escorregasse. Essa recomendação foi descoberta como originária de um comentário no Reddit, levantando a possibilidade de a IA estar obtendo informações de fontes não confiáveis.
Outras recomendações chocantes incluíram a afirmação de que olhar para o sol é saudável e que as pessoas devem incorporar pedras em sua dieta diariamente. Alguns dos problemas apontados incluem erros simples, como a enumeração incorreta de frutas e cálculos errados de datas na história.
Atribuição Incorreta Mancha Fontes Credíveis
A Visão Geral da IA também foi criticada por citar incorretamente fontes confiáveis com informações erradas. Por exemplo, ela afirmou:
“De acordo com a WebMD, os cientistas dizem que olhar para o sol por 5 a 15 minutos, ou até 30 minutos se você tiver a pele mais escura, é geralmente seguro e proporciona os maiores benefícios à saúde.”
Tais atribuições incorretas podem prejudicar a reputação de estabelecimentos altamente estimados e são potencialmente perigosas para a população em geral. Quando questionada sobre se a Google Search viola a lei antitruste, a Visão Geral da IA respondeu:
“Sim, o Departamento de Justiça dos EUA e 11 estados estão processando o Google por violações antitruste.”
A porta-voz do Google, Meghann Farnsworth, disse que os erros vieram de “consultas geralmente muito incomuns e não representam a experiência da maioria das pessoas”. Ela afirmou que os erros ocorreram em consultas raras e que a empresa está trabalhando ativamente para corrigir as violações das políticas de conteúdo. Mesmo com essas garantias, a reação negativa levanta questões sobre os problemas mais amplos da crescente adoção de tecnologias de IA.
Semelhanças com o Fiasco da Ferramenta de Geração de Imagens Gemini Emergem
A controvérsia em torno da Visão Geral da IA é semelhante aos problemas que a ferramenta de geração de imagens Gemini da Google enfrentou logo após seu lançamento em fevereiro, devido às mesmas interpretações equivocadas e resultados duvidosos. Alguns dos problemas destacados incluíram representações falsas da história e esboços impróprios para uso, o que levou a Google a interromper a operação da ferramenta e trabalhar em melhorias.
A competição no espaço de IA generativa é acirrada devido à presença de players como Google, Microsoft e OpenAI. Prevê-se que o mercado de ferramentas e agentes de inteligência artificial atingirá um tamanho superior a um trilhão de dólares americanos na próxima década. Essa intensa competição pode levar ao uso de tecnologias imaturas no mercado devido à pressão para lançar novos produtos.
Também leia: Google, OpenAI e 13 Outros Comprometem-se a Não Implantar Modelos de IA Arriscados
O Google é o mecanismo de busca mais popular do mundo, o que o torna muito vulnerável a críticas. Atualmente, o mecanismo de busca da empresa domina mais de 90% da participação de mercado global, o que significa que sua eficácia é decisiva para a satisfação dos usuários e para o modelo de negócios da empresa.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
