A inteligência artificial de análise de chamadas do Google poderia levar à censura por padrão?

Em um esforço para proteger os usuários do Android contra golpes por telefone, o Google está desenvolvendo novas medidas de segurança. Segundo Dave Burke, vice-dent de engenharia do Google, o Google está testando uma tecnologia que utiliza inteligência artificial paradentpadrões associados a golpes e notificar os usuários de telefones Android quando houver suspeita de fraude. 

O Google revelou na terça-feira, durante a conferência de desenvolvedores I/O, que está desenvolvendo uma nova função de monitoramento de chamadas que alertará os usuários sobre a possibilidade de a pessoa com quem estão falando estar tentando aplicar um golpe, incentivando-os a encerrar a conversa.

O Google garante aos usuários que seus dados estarão seguros

Segundo o Google, essa funcionalidade utiliza o Gemini Nano, um modelo de linguagem reduzido, local e offline para smartphones Android, baseado no modelo de linguagem Gemini, de grande porte, da empresa. 

A empresa afirmou que,

“Toda essa proteção acontece no próprio dispositivo, então sua conversa permanece privada para você.”

Ligações de "representantes bancários" que pedem informações que bancos legítimos jamais solicitariam — como suas senhas ou PINs de cartão de crédito — ou exigem pagamentos com cartões-presente ou transferências de dinheiro urgentes são alguns exemplos do que pode acionar esses alertas. 

O Google afirma que, como essas novas medidas de segurança estão todas no próprio dispositivo, as conversas que o Gemini Nano está monitorando permanecerão secretas.

Especialistas em privacidade têm opiniões divergentes sobre a ideia

A empresa que utiliza inteligência artificial generativa para realizar varreduras em tempo real e identificar padrões relacionados a golpes durante chamadas de voz tem preocupado especialistas na área de segurança e privacidade. 

Leia também: A impressionante demonstração da Gemini AI no Google I/O

Especialistas temem que, apósdentgolpes, não demore muito para que percebam tendências ligadas a inclinações políticas, preocupações com direitos humanos ou dificuldades pessoais relacionadas ao trabalho das pessoas.

Andriy, designer e engenheiro de soluções de segurança com IA, publicou na plataforma X, compartilhando a postagem de Meredith Whittaker, na qual afirma que a ferramenta de análise de chamadas com IA do Google o deixou dividido. Ele questiona a importância da proteção contra fraudes, mas a que custo para sua privacidade 

Ele disse ser especialista em segurança cibernética, portanto, está ciente de como a varredura do lado do cliente pode facilmente se transformar em monitoramento.

Especialistas preveem que isso é apenas a ponta do iceberg e que, na verdade, o que acontecerá é que isso se transformará em censura centralizada no futuro.

A compatibilidade do Gemini Nano é limitada

Embora o Google afirme que os clientes precisarão optar por usar o recurso de detecção de fraudes, a empresa alega que revelará mais detalhes ainda este ano. Não há informações sobre quando o recurso estará disponível. 

Leia também: Google Fotos receberá o recurso "Pergunte às Fotos" com inteligência artificial e integração com o Gemini.

Portanto, a compatibilidade pode restringir o leque de candidatos para os quais essa tecnologia é útil. O site do Gemini Nano afirma que,

“O Gemini Nano, a versão mais compacta da família de modelos Gemini, pode ser executado diretamente no dispositivo em aparelhos Android compatíveis, a partir do Google Pixel 8 Pro e da série Samsung S24.”

Sempre existe a possibilidade de ser vítima de um golpe, mesmo que algumas pessoas consigam identificá-los facilmente após anos de conscientização e conselhos disponíveis sobre como evitá-los. 

Segundo uma pesquisa divulgada pela Global Anti-Scam Alliance em outubro do ano passado, 1 em cada 4 pessoas no mundo perdeu mais de US$ 1 trilhão em golpes ou roubo dedentno ano anterior.

Reportagem Cryptopolitan por Aamir Sheikh