O recurso de visão geral de IA do Google enfrenta críticas devido a resultados imprecisos

O recurso "Visão Geral da IA" lançado recentemente pelo Google na Busca tem recebido críticas significativas. Usuários relataram diversos casos em que os resumos de IA geraram respostas ilógicas ou incorretas para diferentes pesquisas, sem nenhuma maneira de desativar o serviço. 

Leia também: Novas extensões do Chrome visam aprimorar a experiência de busca do Google

Exemplos recentes incluem conselhos duvidosos sobre práticas culinárias e recomendações de saúde, que provocaram uma onda de críticas e zombaria nas redes sociais.

Usuários expõem as respostas falhas da Visão Geral da IA

O novo recurso, Visão Geral da IA, foi lançado há menos de duas semanas e foi projetado para fornecer breves resumos das perguntas feitas. Por exemplo, uma pesquisa sobre como limpar botas de couro pode fornecer instruções de diferentes sites. No entanto, os usuários relataram que a ferramenta pode fornecer recomendações incorretas e potencialmente perigosas.

Leia também: A nova busca com IA do Google prejudicará o tráfego de sites, preocupando editores?

Outro erro cometido pela IA foi afirmar que "os Estados Unidos tiveram umdentmuçulmano, Barack Hussein Obama", quando questionada sobre quantosdentmuçulmanos os EUA já tiveram. 

Outra dica que poderia potencialmente causar sérios danos foi o uso de cola no preparo do molho de pizza para evitar que o queijo se desprendesse. Descobriu-se que essa recomendação se originou em um comentário do Reddit, o que levanta a possibilidade de a IA estar obtendo informações de fontes não confiáveis.  

Outras recomendações absurdas incluíam afirmar que olhar para o sol é saudável e que as pessoas deveriam incorporar pedras em suas dietas diariamente. Alguns dos problemas apontados incluem erros simples, como a enumeração incorreta de frutas e cálculos errados de datas históricas.

A atribuição incorreta prejudica a credibilidade das fontes

A AI Overview também foi criticada por citar fontes confiáveis ​​de forma incorreta, divulgando informações erradas. Por exemplo, afirmou:

Segundo o WebMD, cientistas afirmam que ficar olhando para o sol por 5 a 15 minutos, ou até 30 minutos para quem tem pele mais escura, geralmente é seguro e proporciona os maiores benefícios para a saúde

Essas atribuições incorretas podem prejudicar a reputação de estabelecimentos altamentesteeme são potencialmente perigosas para a população em geral. Quando questionado se a Busca do Google viola ou não as leis antitruste, o AI Overview afirmou:

“Sim, o Departamento de Justiça dos EUA e 11 estados estão processando o Google por violações antitruste.”

A porta-voz do Google, Meghann Farnsworth, afirmou que os erros ocorreram em "consultas geralmente muito incomuns e não são representativas da experiência da maioria das pessoas". Ela disse que os erros se concentraram em consultas raras e que a empresa está trabalhando ativamente para corrigir as violações das políticas de conteúdo. Mesmo com essas garantias, a reação negativa levanta questões sobre os problemas mais amplos da crescente adoção de tecnologias de IA.

Paralelos com o fiasco da ferramenta de geração de imagens Gemini surgem

A controvérsia em torno do AI Overview é semelhante aos problemas que a ferramenta de geração de imagens Gemini do Google enfrentou logo após seu lançamento em fevereiro, devido às mesmas interpretações errôneas e resultados duvidosos. Alguns dos problemas destacados incluem representações falsas da história e esboços inadequados para uso, o que levou o Google a interromper o funcionamento da ferramenta e trabalhar em melhorias.

A competição no setor de IA generativa é acirrada devido à presença de empresas como Google, Microsoft e OpenAI. Prevê-se que o mercado de ferramentas e agentes de inteligência artificial atinja um tamanho superior a um trilhão de dólares americanos na próxima década. Essa intensa competição pode levar ao uso de tecnologias imaturas no mercado devido à pressão para lançar novos produtos.

Leia também: Google, OpenAI e outras 13 empresas se comprometem a não implantar modelos de IA arriscados.

O Google é o mecanismo de busca mais popular do mundo, o que o torna muito vulnerável a críticas. Atualmente, o mecanismo de busca da empresa domina mais de 90% do mercado global, o que significa que sua eficácia é decisiva para a satisfação dos usuários e para o modelo de negócios da empresa.