A Vovó com IA está enganando golpistas e resolvendo 3 problemas tecnológicos

A inteligência artificial e todas as tecnologias emergentes são avaliadas quanto aos seus prós e contras. A inteligência artificial é frequentemente considerada uma faca de dois gumes devido aos seus riscos potenciais, embora também impulsione a inovação.

Em uma iniciativa recente, a O2, gigante britânica das telecomunicações, lançou a "AI Daisy" para combater golpistas que se fazem passar por uma vovó simpática e falante. Desenvolvida com a ajuda do YouTuber Jim Browning, será que a IA está criando uma solução para seus próprios riscos?

Quem é AI Daisy?

A inteligência artificial tem sido o tema de 2024, mas as preocupações sobre ela substituir empregos, superar softwares existentes e criar problemas éticos e de privacidade também estão sendo debatidas. No entanto, uma empresa de telecomunicações do Reino Unido chamada O2 encarou o debate de frente com uma nova campanha.

A O2 lançou a "AI Daisy" na campanha "Swerve the Scammers" (Evite os Golpistas) para fazer os golpistas perderem tempo. Se os golpistas estão ocupados conversando com a vovó de IA, onde haverá tempo para enganar pessoas de verdade? O trabalho de Daisy parece ser envolver os golpistas em conversas longas e sem sentido, mantendo-os ocupados. Ela enfatiza: "Vamos encarar a realidade, querido(a), eu tenho todo o tempo do mundo." A empresa também tem incentivado as pessoas a denunciarem números fraudulentos para ajudar Daisy adentmais golpistas.

No anúncio, Daisy também afirma: "Olá, golpistas. Eu sou o seu pior pesadelo."

Não há fúria maior do que a de uma vovó com inteligência artificial enganada. Veja Daisy desperdiçar o tempo dos golpistas para que eles não consigam te enganar.

👉Denuncie chamadas e mensagens de texto fraudulentas para 7726 pic.twitter.com/hkNMDqG87b

— O2 (@O2) 15 de novembro de 2024

Jim Browning, conhecido por expor golpistas em seu canal no YouTube, também participou do treinamento da IA ​​Daisy. Em entrevista à Sky News, ele explica que a IA foi treinada usando gravações reais de ligações fraudulentas, muitas delas retiradas de seus vídeos no YouTube. Browning também revelou que passou anos gravando e aprendendo com os golpistas para entender suas técnicas. Segundo o vigilante virtual, Daisy faz com que os golpistas percam tempo e recursos, potencialmente tornando os golpes menos lucrativos.

A inteligência artificial é uma faca de dois gumes

As tecnologias emergentes estão vindo em auxílio das pessoas, mas, em parte, estão facilitando a aplicação de golpes. De acordo com um relatório da Truecaller, golpistas afetaram 56,2 milhões de adultos nos EUA somente em 2023. Em média, 1 em cada 4 pessoas perdeu US$ 452. O relatório também constata que idosos são alvos frequentes em comparação com jovens adultos, mas estes últimos correm um risco maior de serem enganados.

A influenciadora Amy Hart, que trabalhou no comercial da AI Daisy, disse: "Eu sei em primeira mão o quão sofisticados e maldosos os golpistas podem ser". Enquanto isso, Shelly Palmer, CEO da agência de empregos Palmer Group, lamenta não ter tido essa ideia. Apesar do entusiasmo, o executivo alertou que a clonagem de voz é uma tecnologia arriscada, pois os golpistas podem usá-la para se passar por outras pessoas. Ele sugere que as famílias usem uma "palavra ou frase de segurança" para verificar adentem ligações com pedidos incomuns.

De acordo com relatos, a clonagem de voz por IA e a tecnologia deepfake são praticamente infalíveis quando se trata de personificar pessoas reais. A equipe de segurança da Sift revelou em um blog que a IA analisa dados para identificardentvítimas e suas vulnerabilidades. Uma vez que encontram um alvo, os golpistas manipulam as pessoas usando gatilhos emocionais e histórias para extorquir dinheiro. Daisy, da O2, é uma contramedida ao uso de IA para aplicar golpes. Como resultado, a Vovó Daisy, com IA, não apenas está enganando os golpistas, como também resolveu três grandes problemas tecnológicos.

Primeiro, a clonagem de voz por IA aumenta os riscos à privacidade, já que golpistas agora podem se passar por pessoas reais. Daisy consegue inverter essa situação. Segundo, críticos questionam as implicações éticas da IA ​​na sociedade. A campanha tem um propósito positivo e explica a necessidade do uso responsável da IA. Por fim, o impacto da IA ​​nos empregos humanos é um tema recorrente em todas as discussões. Em 2024, a IA Daisy estará executando uma tarefa que antes exigia intervenção humana. Embora a IA tenha reduzido a interação humana no atendimento ao cliente, diversos analistas ainda consideram essa redução uma superestimação.

Dito isso, a AI Virgin Media O2 afirma ter "investido pesado" no combate à fraude, já que Daisy teria conseguido manter os chamadores suspeitos ocupados por 40 minutos seguidos.