인공지능이 생성한 가짜 영수증은 전 세계 기업들에게 점점 더 큰 문제로 대두되고 있습니다

전 세계 기업들은 직원들이 인공지능 소프트웨어를 이용해 가짜 경비 영수증을 만드는 문제가 점점 심각해지고 있는 상황에 직면하고 있으며, 이는 직장 내 사기가 첨단 기술을 이용해 변형된 형태를 띠고 있음을 보여줍니다.

오픈AI와 구글 같은 주요 기술 기업들이 실사 이미지를 생성할 수 있는 새로운 AI 프로그램을 출시하면서 문제는 더욱 악화되었습니다. 기업 경비 관리 소프트웨어 회사들은 직원들이 제출하는 가짜 영수증이 훨씬 많아졌다고 말합니다.

소프트웨어를 개발하는 앱젠(AppZen)은 trac기업 경비 사기성 서류 . 작년에는 이러한 사례가 전혀 없었습니다. 또 다른 회사인 램프(Ramp)는 자사의 새로운 탐지 소프트웨어가 단 ​​90일 만에 100만 달러 이상의 가짜 청구서를 적발했다고 발표했습니다.

미국과 영국의 자산 관리자들을 대상으로 한 설문조사는 이 문제의 심각성을 보여줍니다. 경비 관리 회사인 메디우스가 실시한 조사에 따르면, 응답자의 약 30%가 지난해 오픈아이얼이 GPT-4o를 출시한 이후 위조 영수증이 증가했다고 답했습니다.

SAP Concur의 수석dent 겸 제품 마케팅 책임자인 크리스 주노는 "이 영수증들이 너무나 정교해져서 고객들에게 '눈으로 본 것을 믿지 마세요'라고 말할 정도입니다."라고 말했습니다. 그의 회사는 인공지능(AI)을 활용하여 매달 8천만 건 이상의 규정 준수 확인을 처리하는 세계 최대 규모의 경비 trac플랫폼 중 하나입니다.

많은 플랫폼에서 오픈AI가 3월에 GPT-4o의 향상된 이미지 생성 기능을 출시한 후 AI가 만든 영수증이 크게 증가한 것을 확인했습니다.

해당 문제에 대해 질문을 받았을 때, 오픈AI는 파이낸셜 타임스에 자사 규칙을 위반하는 사람이 있을 경우 조치를 취한다고 밝혔습니다. 또한, 자사 이미지에는 ChatGPT가 생성했음을 나타내는 숨겨진 정보가 포함되어 있다고 덧붙였습니다.

AI 덕분에 문서 위조가 누구에게나 쉬워졌습니다

과거에는 가짜 영수증을 려면 사진 편집 기술을 알거나 온라인 서비스를 통해 다른 사람에게 비용을 지불해야 했습니다. 하지만 이제는 무료로 사용하기 쉬운 AI 프로그램 덕분에 작업자들은 컴퓨터 챗봇에 간단한 지시만 입력하면 몇 초 만에 가짜 영수증을 만들 수 있게 되었습니다.

파이낸셜 타임스에 경비 관리 회사들이 공개한 여러 가짜 영수증은 매우 진짜처럼 보였다. 구겨진 종이, 실제 레스토랑 메뉴와 일치하는 상세한 품목 목록, 그리고 서명까지 포함되어 있었다.

"이것은 미래의 위협이 아니라 이미 현실입니다. 현재는 AI가 생성한 부적격 영수증이 소수에 불과하지만, 앞으로 그 비율은 계속 증가할 것입니다."라고 경비 관리 플랫폼 Rydoo를 운영하는 세바스티앙 마르숑은 말했습니다.

기업들은 AI 탐지 도구를 이용해 반격에 나선다

가짜 영수증은 매우 사실적으로 보이기 때문에, 직원들이 진짜와 가짜를 구별하는 데 어려움을 겪는 상황에서 기업들은 이제 인공지능 프로그램을 사용하여 가짜 영수증을 탐지하고 있습니다.

탐지 소프트웨어는 이미지 파일에 숨겨진 데이터를 확인하여 인공지능 프로그램이 생성했는지 여부를 판단하는 방식으로 작동합니다. 그러나 작업자는 가짜 영수증의 사진을 찍거나 스크린샷을 찍어 이러한 정보를 쉽게 제거할 수 있습니다.

이에 대응하기 위해 소프트웨어는 반복되는 서버 이름과 시간, 그리고 직원의 출장과 관련된 더 광범위한 정보 등 다른 세부 정보도 분석합니다.

"기술은 모든 것을 매우 세밀하고 집중적으로 살펴볼 수 있지만, 인간은 시간이 지나면서 놓치는 부분이 생기기 마련입니다. 인간은 원래 그렇죠."라고 Ramp의 제품 관리 수석 이사인 캘빈 리는 말했습니다.

SAP가 7월에 실시한 연구에 따르면 최고재무책임자(CFO)의 거의 70%가 직원들이 인공지능(AI)을 이용해 출장 경비나 영수증을 위조하려 한다고 생각하는 것으로 나타났습니다. 약 10%는 자사에서 실제로 그런 일이 발생했다고 확신한다고 답했습니다.

공인사기조사관협회(Association of Certified Fraud Examiners)의 연구 책임자인 메이슨 와일더는 AI가 생성한 가짜 영수증을 "기업에 중대한 문제"라고 불렀습니다

그는 “이 일을 하는 데에는 진입 장벽이 전혀 없습니다. 5년 전 포토샵을 사용할 때 필요했던 것과 같은 특별한 기술적 능력이나 소질은 전혀 필요하지 않습니다.”라고 말했습니다