最新新闻
为您推荐

AI 生成的虚假收据正成为全球公司日益严重的问题

作者Shummas HumayunShummas Humayun 3 分钟阅读
AI 生成的虚假收据正成为全球公司日益严重的问题
  • 员工正利用AI工具生成逼真的虚假费用收据,企业警告客户切勿轻信所见。
  • 在短短一年内,由AI生成的虚假收据占欺诈文件的比例从0%飙升至14%。
  • 近70%的首席财务官认为,其员工正在使用人工智能伪造差旅费用和收据。

随着员工使用人工智能软件创建虚假费用收据,全球各地的公司正面临一个日益严重的问题,这标志着职场欺诈的高科技转变。

自 OpenAI 和 Google 等主要科技公司发布能够创建逼真图像的新 AI 程序以来,这个问题已经恶化。商业费用软件公司表示,他们现在看到员工提交的虚假收据数量大幅增加。

制作商业费用跟踪软件的 AppZen 发现,由 AI 制作的虚假收据占所有 欺诈文件 的约 14%,这些文件于 9 月提交。去年则为零。另一家公司 Ramp 表示,其新的检测软件在短短 90 天内发现了价值超过 100 万美元的虚假发票。

一项针对美国和英国资金管理者的调查显示了问题的范围。费用管理公司 Medius 询问的约 30% 的金融工作者表示,自 OpenAI 去年发布 GPT-4o 以来,他们注意到虚假收据增多。

“这些收据变得如此逼真,我们告诉客户,‘不要相信你的眼睛’,”SAP Concur 的高级副总裁兼产品营销主管 Chris Juneau 说。他的公司是世界上最大的费用跟踪平台之一,每月使用 AI 处理超过 8,000 万次合规检查。

许多平台在 OpenAI 于 3 月推出 GPT-4o 更好的图像生成功能后,注意到 AI 制作的收据大幅增加。

当被问及这一问题时,OpenAI 告诉《金融时报》,当人们违反其规则时,他们会采取措施。该公司还表示,其图像包含隐藏信息,表明它们是由 ChatGPT 制作的。

AI使文档欺诈变得人人可及

在过去,制作 虚假收据 需要懂得如何编辑照片,或通过在线服务付费请他人代劳。如今,免费且易于使用的AI程序让工作人员只需向计算机聊天机器人输入简单指令,即可在几秒钟内创建虚假收据。

几家费用管理公司向《金融时报》展示的几张虚假收据看起来非常逼真。它们包括褶皱的纸张、与真实餐厅菜单相符的详细物品清单以及签名。

“这并非未来的威胁,它已经在发生。虽然目前只有很小比例的违规收据是由AI生成的,但这只会增长,”费用管理平台Rydoo的负责人Sebastien Marchon表示。

公司利用AI检测工具进行反击

由于这些虚假收据看起来如此逼真,公司现在正使用AI程序来检测它们,因为人工员工很难区分真假。

检测软件通过检查图像文件中的隐藏数据来查看是否由AI程序创建。但工作人员只需拍摄虚假收据的照片或截图,即可轻松移除这些信息。

为了反击,该软件还检查其他细节,例如重复的服务器名称和时间,以及关于员工出差的更广泛信息。

“技术可以以高细节的焦点和注意力审视一切,而人类在一段时间后,事情就会从眼皮底下溜走,因为他们是人,”Ramp的高级产品管理总监Calvin Lee表示。

SAP在7月进行的一项研究发现,近70%的首席财务官认为他们的员工正在使用AI试图伪造差旅费用或收据。约10%的人表示他们确信公司内已发生过此类情况。

认证欺诈审查师协会的研究总监Mason Wilder称,AI生成的虚假收据是“组织面临的一个重大问题”。

他说:“人们从事这项活动的门槛为零。你不需要任何技术技能或天赋,就像五年前使用Photoshop时可能需要的那样。”

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

分享本文
Shummas Humayun

Shummas Humayun

Shummas 曾是一名技术内容撰稿人和研究员。

更多新闻…