Recibos falsos gerados por IA estão se tornando um problema crescente para empresas globalmente

Empresas em todo o mundo estão enfrentando um problema crescente à medida que os trabalhadores usam software de inteligência artificial para criar recibos de despesas falsos, marcando uma reviravolta de alta tecnologia na fraude no local de trabalho.

O problema piorou desde que grandes empresas de tecnologia, como OpenAI e Google, lançaram novos programas de IA capazes de criar imagens realistas. Empresas de software de despesas comerciais dizem que agora estão vendo muitos mais recibos falsos sendo apresentados pelos funcionários.

A AppZen, que faz software para rastrear despesas comerciais, descobriu que recibos falsos feitos por IA representavam cerca de 14% de todos os documentos fraudulentos apresentados em setembro. No ano passado, não havia nenhum. Outra empresa, Ramp, disse que seu novo software de detecção capturou mais de US$ 1 milhão em faturas falsas em apenas 90 dias.

Uma pesquisa com gestores de dinheiro nos Estados Unidos e no Reino Unido mostrou a extensão do problema. Cerca de 30% dos trabalhadores financeiros questionados pela empresa de gestão de despesas Medius disseram que notaram mais recibos falsos depois que a OpenAI lançou o GPT-4o no ano passado.

“Esses recibos ficaram tão bons que dizemos aos nossos clientes: ‘não confie nos seus olhos’”, disse Chris Juneau, que trabalha como vice-presidente sênior e chefe de marketing de produtos da SAP Concur. Sua empresa é uma das maiores plataformas de rastreamento de despesas do mundo, processando mais de 80 milhões de verificações de conformidade por mês usando IA.

Muitas plataformas notaram um grande aumento em recibos feitos por IA depois que a OpenAI lançou as melhores funcionalidades de criação de imagens do GPT-4o em março.

Quando questionada sobre o problema, a OpenAI disse ao Financial Times que toma medidas quando as pessoas violam suas regras. A empresa também disse que suas imagens contêm informações ocultas que mostram que foram feitas pelo ChatGPT.

A IA torna a fraude em documentos acessível a todos

No passado, fazer recibos falsos exigia saber como editar fotos ou pagar alguém para fazer isso por meio de serviços online. Agora, programas de IA gratuitos e fáceis de usar permitem que os trabalhadores criem recibos falsos em segundos apenas digitando instruções simples para chatbots de computador.

Vários recibos falsos mostrados ao Financial Times por empresas de gestão de despesas pareciam muito reais. Eles incluíam papel amassado, listas detalhadas de itens que correspondiam a cardápios reais de restaurantes e assinaturas.

“Isso não é uma ameaça futura; já está acontecendo. Embora atualmente apenas uma pequena porcentagem de recibos não conformes sejam gerados por IA, isso só vai crescer”, disse Sebastien Marchon, que gerencia a plataforma de gestão de despesas Rydoo.

Empresas reagem com ferramentas de detecção de IA

Como esses recibos falsos parecem tão realistas, as empresas agora estão usando programas de IA para detectá-los, já que os trabalhadores humanos têm dificuldade em distinguir entre o real e o falso.

O software de detecção funciona verificando os dados ocultos nos arquivos de imagem para ver se um programa de IA os criou. Mas os trabalhadores podem facilmente remover essas informações tirando uma foto ou captura de tela do recibo falso.

Para reagir, o software também examina outros detalhes, como nomes de servidores repetidos e horários, bem como informações mais amplas sobre a viagem de negócios do trabalhador.

“A tecnologia pode olhar para tudo com alto nível de detalhe, foco e atenção que os humanos, após um período de tempo, deixam passar pelos dedos, eles são humanos”, disse Calvin Lee, que trabalha como diretor sênior de gerenciamento de produtos na Ramp.

Uma pesquisa conduzida pela SAP em julho descobriu que quase 70% dos diretores financeiros acreditavam que seus funcionários estavam usando IA para tentar falsificar despesas de viagem ou recibos. Cerca de 10% disseram ter certeza de que isso havia acontecido em sua empresa.

Mason Wilder, que trabalha como diretor de pesquisa na Association of Certified Fraud Examiners, chamou os recibos falsos gerados por IA de “um problema significativo para as organizações.”

Ele disse: “Não há nenhuma barreira de entrada para as pessoas fazerem isso. Você não precisa de nenhum tipo de habilidade tecnológica ou aptidão como talvez fosse necessário há cinco anos usando o Photoshop.”