Legisladores dos EUA exigem respostas do Google sobre o recurso de Visões Gerais da IA

Vários membros da Câmara dos Representantes dos EUA, liderados pelo Representante Adam Schiff, estão pedindo ao Google que explique seu recurso de Visões Gerais da IA. Esta ferramenta, integrada ao mecanismo de busca do Google, resume informações usando IA.

Schiff e outros legisladores escreveram ao CEO do Google, Sundar Pichai, sobre a imprecisão e o perigo do recurso. A carta afirma ainda que a IA tem sido puxar informações de sites satíricos e citar teorias da conspiração já há muito desmentidas, fornecendo a usuários desprevenidos informações erradas.

Carta levanta preocupações sobre desinformação

Schiff ressaltou os riscos das informações falsas, especialmente no contexto do Google como fonte primária de notícias e informações de saúde para muitos americanos. A carta, também assinada pelos Representantes Henry C. Johnson, Jr. (D-Ga.), Donald S. Beyer Jr. (D-Va.), Pramila Jayapal (D-Wash.) e Lori Trahan (D-Mass.), busca esclarecimentos sobre vários aspectos do recurso de Visões Gerais da IA.

Também leia: Narrativa de IA acelera, sentimento muda para otimista em vários ativos

Os legisladores também querem saber como os usuários são informados sobre os riscos de desinformação e o prazo para corrigir ou remover informações falsas. 

O recurso de Visões Gerais da IA do Google emprega o modelo de IA Gemini para extrair informações das páginas melhor classificadas e fornecer um resumo com links. No entanto, o recurso tem sido acusado de fornecer informações erradas e enganosas. Alguns dos exemplos incluem aconselhar as pessoas a consumir pedras para obter vitaminas e endossar a religião de Barack Obama. 

Controvérsias recentes destacam problemas com conteúdo gerado por IA

Em maio de 2024, o Google foi criticado logo após o lançamento das Visões Gerais da IA nos EUA, porque o recurso sugeriu adicionar cola à pizza para que o queijo grudasse. Na hora da impressão, o Google não emitiu uma resposta direta à carta dos legisladores. 

Em um post de blog, Liz Reid, Vice-Presidente do Google e chefe de pesquisa, também explicou que havia problemas com o recurso de Visões Gerais da IA. Reid apontou que um dos problemas que a IA tem é que ela não funciona bem quando as consultas feitas não são respaldadas por dados de alta qualidade suficientes. Ela observou que, quando um usuário insere um tópico específico ou raro ou um tópico que contém sátira, por exemplo, a IA escolherá respostas das fontes limitadas que possui, e às vezes as fontes não são credíveis.

Há também discussões sobre as consequências financeiras para os editores. Mecanismos de busca baseados em IA, como o Google, podem apresentar um resumo do conteúdo de diferentes fontes sem direcionar o tráfego de volta aos criadores originais, o que pode afetar sua receita. Isso levou a ações legislativas, como as na Califórnia, onde legisladores defendem o pagamento aos editores quando as empresas de tecnologia utilizam seu conteúdo.