O Google limita as visualizações gerais de IA para consultas satíricas e sem sentido

O Google está reduzindo a apresentação dos Resumos de IA em alguns resultados de pesquisa. A decisão foi tomada após a gigante das buscas cometer alguns erros que ganharam notoriedade e geraram uma reação negativa do público na internet.

Na quinta-feira, Liz Reid, chefe de buscas do Google, admitiu que a empresa estava limitando os resumos gerados por IA chamados de "Visões Gerais de IA". O recurso, que utiliza inteligência artificial, foi criticado quando começou a exibir conteúdo incentivando as pessoas a comer pedras e colar queijo na pizza.

Leia também: Google, OpenAI e outras 13 empresas se comprometem a não implantar modelos de IA arriscados.

O Google começou a exibir as Visões Gerais de IA para seus usuários nos Estados Unidos há duas semanas, após seu evento anual I/O, durante o qual lançou diversas ofertas baseadas em IA. A partir de quinta-feira, os usuários notaram menos perguntas que resultavam em respostas de IA.

dentanálises falsas de IA requer uma análise cuidadosa

Reid escreveu em uma postagem no blog que pessoas nas redes sociais compartilharam capturas de tela de análises de IA que sugeriam soluções estranhas. Ela disse que a IA da empresa cometeu alguns erros, mas muitos eram falsos e nunca foram gerados pelo sistema de IA do Google.

Ela admitiu que algumas análises gerais de IA estranhas ou imprecisas certamente apareceram. Isso destacou as áreas em que o recurso precisa ser aprimorado, mas não são consultas de pesquisa comuns. Ao observar as análises falsas, ela disse:

"Além disso, um grande número de capturas de tela falsas foram amplamente compartilhadas. Alguns desses resultados falsos foram óbvios e ridículos."

Reid afirmou que o Google não exibiu nenhuma Visão Geral de IA para tópicos como fumar durante a gravidez ou deixar cães em carros. Ela incentivou os usuários que viram essas capturas de tela nas redes sociais a pesquisarem por conta própria e verificarem.

A IA do Google agora conseguedentconteúdo satírico

O Googledentque conteúdo satírico e consultas sem sentido eram áreas que precisavam ser abordadas para evitar a geração de análises imprecisas por parte da IA. O Google afirmou que, antes das capturas de tela da pergunta "Quantas pedras devo comer?" viralizarem, ninguém havia feito essa pergunta. Reid disse que o Google Trends pode ser consultado para confirmar essa informação.

Leia também: Opera integra os modelos Gemini do Google para aprimorar a IA do navegador Aria.

Outro fator é a escassez de conteúdo disponível sobre um tópico específico, também conhecida como vazio de dados, o que também contribui para análises imprecisas de IA. Em relação à pergunta sobre a "comida de rochas", Reid afirmou que a natureza satírica do conteúdo motivou a análise de IA. O conteúdo também foi republicado por um site de software geológico, para o qual a análise de IA forneceu um link. Ela esclareceu:

“Então, quando alguém inseriu essa pergunta na Busca, apareceu uma Visão Geral de IA que, fielmente, direcionava para um dos poucos sites que abordavam a questão.”

Reid não mencionou as outras análises de IA que estão circulando nas redes sociais, e muitas grandes editoras também publicaram reportagens sobre elas. Por exemplo, o Washington Post publicou uma reportagem sobre o Google dizendo às pessoas que Barack Obama era muçulmano. A publicação também relatou outro caso em que a análise de IA do Google disse a um usuário que as pessoas deveriam beber urina para ajudar a expelir pedras nos rins.

O Google tem uma obsessão por fóruns públicos

A chefe de buscas do Google observou que a empresa testou o recurso extensivamente antes de lançá-lo ao público. Ela também admitiu que as práticas de uso no mundo real são difíceis de simular na fase de testes, mas a empresa realizou simulações robustas de vulnerabilidade e amostragem de consultas típicas de usuários. 

Leia também: Recurso de visão geral de IA do Google enfrenta reação negativa devido a resultados imprecisos.

Alguns usuários e analistas de conteúdo da internet têm observado que o Google recentemente começou a exibir muitos resultados de fóruns públicos como o Reddit. Alguns questionam o acordo da empresa com o Reddit, mas um porta-voz do Google disse à BBC que tais termos não faziam parte do acordo para dar ao Reddit mais visibilidade nos resultados de busca.

Lily Ray, vice-dent de estratégia e pesquisa de SEO da Amsive, uma agência de marketing, afirma que agora muitas buscas exibem resultados do Reddit. Ela também ironizou o Google em uma publicação no X (anteriormente Twitter), dizendo que todo o conhecimento do mundo (conteúdo do Reddit) está combinado com inteligência artificial.

Senhoras e senhores, todo o conhecimento do mundo, combinado com o poder da IA ​​e um troll do Reddit. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 21 de maio de 2024

Reid afirmou que as Visões Gerais de IA apresentam conteúdo sarcástico de fóruns de discussão em alguns exemplos. Ela disse que os fóruns são uma boa fonte de informações em primeira mão, mas, em alguns casos, podem gerar respostas pouco úteis, como colar queijo na pizza.

A IA do Google também interpreta mal a linguagem, o que leva a informações incorretas nas Visões Gerais de IA, mas a proporção dessas respostas é muito baixa, segundo a empresa. Reid observou que eles resolveram os problemas rapidamente por meio de melhorias ou removendo respostas que não estavam em conformidade com a política do Google.

A vice-presidente do Google Search também afirmou quetronmecanismos de proteção para tópicos como saúde e notícias. A empresa lançou novos ajustes de gatilho para aprimorar a qualidade dos resultados em saúde. Reid disse que o sistema de detecção também foi atualizado para consultas sem sentido, de modo a não exibi-las como resumos de IA. Ela também insinuou a confirmação de um número menor de resumos de IA para consultas satíricas, dizendo: "Atualizamos nossos sistemas para limitar o uso de conteúdo gerado pelo usuário em respostas que possam oferecer conselhos enganosos."

Reportagem Cryptopolitan por Aamir Sheikh