Recibos falsos gerados por IA estão se tornando um problema crescente para empresas em todo o mundo

Empresas em todo o mundo enfrentam um problema crescente: funcionários utilizam softwares de inteligência artificial para criar recibos de despesas falsos, o que representa uma versão de alta tecnologia da fraude no ambiente de trabalho.

O problema se agravou desde que grandes empresas de tecnologia, como a OpenAI e o Google, lançaram novos programas de IA capazes de criar imagens realistas. Empresas de software de gestão de despesas corporativas afirmam estar recebendo muito mais recibos falsos de seus funcionários.

A AppZen, empresa que desenvolve software para tracdespesas empresariais, descobriu que recibos falsos gerados por IA representaram cerca de 14% de todos os documentos fraudulentos apresentados em setembro. No ano passado, não houve nenhum. Outra empresa, a Ramp, afirmou que seu novo software de detecção identificou mais de US$ 1 milhão em faturas falsas em apenas 90 dias.

Uma pesquisa com gestores financeiros nos Estados Unidos e no Reino Unido mostrou a dimensão do problema. Cerca de 30% dos profissionais do setor financeiro entrevistados pela empresa de gestão de despesas Medius disseram ter notado um aumento no número de recibos falsos após o lançamento do GPT-40 pela OpenAI no ano passado.

“Esses recibos ficaram tão bons que dizemos aos nossos clientes: 'não confiem apenas nos seus olhos'”, disse Chris Juneau, vice-dent sênior e chefe de marketing de produto da SAP Concur. Sua empresa é uma das maiores plataformas tracdespesas do mundo, processando mais de 80 milhões de verificações de conformidade por mês usando inteligência artificial.

Muitas plataformas notaram um grande aumento nos recibos gerados por IA depois que a OpenAI lançou os recursos aprimorados de criação de imagens do GPT-40 em março.

Questionada sobre o assunto, a OpenAI disse ao Financial Times que toma medidas quando as pessoas violam suas regras. A empresa também afirmou que suas imagens contêm informações ocultas que mostram que foram criadas pelo ChatGPT.

A IA torna a fraude documental acessível a todos

Antigamente, falsificar recibos exigia saber editar fotos ou pagar alguém para fazer isso por meio de serviços online. Agora, programas de IA gratuitos e fáceis de usar permitem que os trabalhadores criem recibos falsos em segundos, apenas digitando instruções simples para chatbots.

Diversos recibos falsos mostrados ao Financial Times por empresas de gestão de despesas pareciam muito reais. Eles incluíam papel amassado, listas detalhadas de itens que correspondiam a cardápios reais de restaurantes e assinaturas.

“Esta não é uma ameaça futura; já está acontecendo. Embora atualmente apenas uma pequena porcentagem dos recibos não conformes seja gerada por IA, isso só tende a aumentar”, disse Sebastien Marchon, que dirige a plataforma de gestão de despesas Rydoo.

Empresas reagem com ferramentas de detecção por IA

Como esses recibos falsos parecem tão realistas, as empresas agora estão usando programas de IA para detectá-los, já que os funcionários humanos têm dificuldade em distinguir entre o que é verdadeiro e o que é falso.

O software de detecção funciona verificando os dados ocultos em arquivos de imagem para ver se foram criados por um programa de IA. Mas os funcionários podem remover facilmente essas informações tirando uma foto ou captura de tela do recibo falso.

Para se defender, o software também examina outros detalhes, como nomes e horários de servidores repetidos, além de informações mais abrangentes sobre a viagem de negócios do funcionário.

“A tecnologia consegue analisar tudo com um nível de detalhe, foco e atenção que os humanos, depois de um tempo, acabam deixando passar algumas coisas, afinal, são humanos”, disse Calvin Lee, diretor sênior de gestão de produtos da Ramp.

Uma pesquisa realizada pela SAP em julho revelou que quase 70% dos diretores financeiros acreditavam que seus funcionários estavam usando inteligência artificial para tentar falsificar comprovantes de despesas de viagem ou recibos. Cerca de 10% afirmaram ter certeza de que isso havia ocorrido em suas empresas.

Mason Wilder, diretor de pesquisa da Associação de Examinadores de Fraudes Certificados, classificou os recibos falsos gerados por IA como um "problema significativo para as organizações"

Ele disse: “Não há nenhuma barreira de entrada para as pessoas fazerem isso. Você não precisa de nenhum tipo de habilidade ou aptidão tecnológica como talvez fosse necessário há cinco anos para usar o Photoshop.”