AI 생성 가짜 영수증이 전 세계 기업들의 성장하는 문제가 되고 있음

직원들이 인공 지능 소프트웨어를 사용하여 가짜 경비 영수증을 생성하면서, 직장 사기의 하이테크 변형이 등장하고 있어 전 세계 기업들이 점점 더 큰 문제에 직면하고 있다.

오픈AI와 구글과 같은 주요 기술 기업들이 현실적인 이미지를 생성할 수 있는 새로운 AI 프로그램을 출시한 이후 문제가 악화되었다. 비즈니스 경비 소프트웨어 회사들은 직원들이 제출하는 가짜 영수증이 훨씬 더 많아지고 있다고 말한다.

비즈니스 경비를 추적하는 소프트웨어를 만드는 앱젠(AppZen)은 AI가 생성한 가짜 영수증이 모든 사기성 서류 중 9월 제출된 것의 약 14%를 차지한다고 밝혔다. 작년에는 단 하나도 없었다. 또 다른 회사인 램프(Ramp)는 새로운 탐지 소프트웨어가 단 90일 만에 100만 달러 이상의 가짜 송장을 적발했다고 말했다.

미국과 영국의 자산 관리자들을 대상으로 한 설문 조사는 문제의 규모를 보여준다. 경비 관리 회사 메디우스(Melius)가 조사한 금융 근로자 중 약 30%가 작년 오픈AI가 GPT-4o를 출시한 이후 더 많은 가짜 영수증을 목격했다고 말했다.

“이 영수증들은 너무 완벽해져서, 우리는 고객들에게 ‘눈을 믿지 마라’고 말한다”라고 SAP 컨카르의 수석 부사장 겸 제품 마케팅 책임자 크리스 주노는 말했다. 그의 회사는 세계에서 가장 큰 경비 추적 플랫폼 중 하나로, 매달 8,000만 건 이상의 규정 준수 검사를 AI를 사용하여 처리한다.

많은 플랫폼들은 오픈AI가 3월에 GPT-4o의 향상된 이미지 생성 기능을 출시한 이후 AI가 만든 영수증의 급증을 목격했다.

이 문제에 대해 오픈AI는 규칙을 위반하는 사람들에게 조치를 취한다고 파이낸셜 타임즈에 전했다. 또한 회사의 이미지는 ChatGPT가 생성했음을 나타내는 숨겨진 정보가 포함되어 있다고 말했다.

AI는 문서 사기를 누구나 접근 가능하게 만든다

과거에는 가짜 영수증을 만들기 위해 사진 편집 방법을 알거나 온라인 서비스를 통해 다른 사람에게 비용을 지불해야 했다. 이제 무료이고 사용하기 쉬운 AI 프로그램을 통해 직원들은 컴퓨터 챗봇에 간단한 지시를 입력하는 것만으로 몇 초 만에 가짜 영수증을 생성할 수 있다.

비용 관리 기업들이 파이낸셜 타임스에 제시한 여러 가짜 영수증은 매우 사실적으로 보였다. 여기에는 구겨진 종이, 실제 레스토랑 메뉴와 일치하는 상세한 품목 목록, 그리고 서명이 포함되어 있었다.

“이것은 미래의 위협이 아닙니다. 이미 진행 중입니다. 현재 비준수 영수증의 작은 비율만 AI 생성물이지만, 이는 계속 증가할 것입니다.”라고 비용 관리 플랫폼 Rydoo를 운영하는 Sebastien Marchon은 말했다.

기업들은 AI 감지 도구로 대응

이러한 가짜 영수증들이 매우 사실적으로 보자, 기업들은 이제 인간 직원이 진짜와 가짜를 구분하는 데 어려움을 겪자 이를 감지하기 위해 AI 프로그램을 사용하고 있다.

감지 소프트웨어는 이미지 파일의 숨겨진 데이터를 확인하여 AI 프로그램이 생성했는지 여부를 확인한다. 그러나 직원은 가짜 영수증의 사진이나 스크린샷을 찍어 이러한 정보를 쉽게 제거할 수 있다.

대응하기 위해 소프트웨어는 반복되는 서버 이름과 시간, 그리고 직원의 출장에 대한 더 넓은 정보와 같은 다른 세부 사항도 조사한다.

“이 기술은 높은 세부 사항의 초점과 주의로 모든 것을 볼 수 있습니다. 인간은 시간이 지남에 따라 사안이 누락되곤 합니다. 우리는 인간이니까요.”라고 Ramp에서 제품 관리 수석 이사(Calvin Lee)로 일하는 사람은 말했다.

SAP가 7월에 실시한 조사에 따르면, CFO의 거의 70%가 직원이 여행 경비나 영수증을 위조하기 위해 AI를 사용하고 있다고 믿었다. 약 10%는 자사에서 이미 발생했다고 확신했다.

공인 부정행위 조사인(Association of Certified Fraud Examiners)의 연구 이사인 Mason Wilder는 AI 생성 가짜 영수증을 “조직들에게 중요한 문제”라고 불렀다.

그는 “이것을 수행하는 데 진입 장벽이 전혀 없다. 5년 전 Photoshop을 사용했을 때 필요했을지도 모르는 어떤 종류의 기술적 기술이나 적성도 필요하지 않다.”라고 말했다.