Поддельные чеки, созданные ИИ, становятся растущей проблемой для компаний по всему миру

Компании по всему миру сталкиваются с растущей проблемой, поскольку работники используют программное обеспечение искусственного интеллекта для создания поддельных чеков на расходы, что является высокотехнологичным поворотом в мошенничестве на рабочем месте.

Проблема усугубилась с тех пор, как крупные технологические компании, такие как OpenAI и Google, выпустили новые программы ИИ, способные создавать реалистичные изображения. Компании, занимающиеся программным обеспечением для бизнес-расходов, говорят, что теперь они видят гораздо больше поддельных чеков, подаваемых сотрудниками.

AppZen, которая производит программное обеспечение для отслеживания бизнес-расходов, обнаружила, что поддельные чеки, созданные ИИ, составляли около 14 процентов всех мошеннических документов поданных в сентябре. В прошлом году их не было. Другая компания, Ramp, сказала, что ее новое программное обеспечение для обнаружения выявило поддельные счета на сумму более $1 млн всего за 90 дней.

Опрос управляющих деньгами в США и Великобритании показал масштаб проблемы. Около 30 процентов финансовых работников, опрошенных компанией по управлению расходами Medius, сказали, что заметили больше поддельных чеков после того, как OpenAI выпустила GPT-4o в прошлом году.

«Эти чеки стали настолько хорошими, что мы говорим нашим клиентам: „не доверяйте своим глазам“», — сказал Крис Джуньо, работающий старшим вице-президентом и руководителем маркетинга продуктов в SAP Concur. Его компания является одной из крупнейших платформ для отслеживания расходов в мире, обрабатывая более 80 миллионов проверок соответствия каждый месяц с помощью ИИ.

Многие платформы заметили большой скачок в чеках, созданных ИИ, после того как OpenAI запустила улучшенные функции создания изображений GPT-4o в марте.

Отвечая на вопрос об этой проблеме, OpenAI сказала Financial Times, что принимает меры, когда люди нарушают ее правила. Компания также сказала, что ее изображения содержат скрытую информацию, которая показывает, что они были созданы ChatGPT.

ИИ делает документальное мошенничество доступным для всех

В прошлом создание поддельных чеков требовало умения редактировать фотографии или оплаты кому-то другому за это через онлайн-сервисы. Теперь бесплатные и простые в использовании программы ИИ позволяют работникам создавать ложные чеки за секунды, просто вводя простые инструкции в чат-боты.

Несколько поддельных чеков, показанных Financial Times компаниями по управлению расходами, выглядели очень реалистично. Они включали помятую бумагу, подробные списки товаров, соответствующие реальным ресторанным меню, и подписи.

«Это не угроза будущего; это уже происходит. В настоящее время только небольшой процент не соответствующих нормам чеков создан ИИ, но это будет только расти», — сказал Себастьен Маршон, управляющий платформой управления расходами Rydoo.

Компании борются с помощью инструментов обнаружения ИИ

Поскольку эти поддельные чеки выглядят настолько реалистично, компании теперь используют программы ИИ для их обнаружения, так как человеческие работники с трудом различают настоящие и поддельные.

Программное обеспечение для обнаружения работает, проверяя скрытые данные в файлах изображений, чтобы увидеть, создал ли их программа ИИ. Но работники могут легко удалить эту информацию, сделав фотографию или скриншот поддельного чека.

Чтобы бороться с этим, программное обеспечение также проверяет другие детали, такие как повторяющиеся имена серверов и время, а также более широкую информацию о деловой поездке работника.

«Технология может смотреть на все с высокой детализацией и вниманием, что люди, после определенного периода времени, вещи проскальзывают мимо них, они люди», — сказал Кэлвин Ли, работающий старшим директором по управлению продуктами в Ramp.

Исследование, проведенное SAP в июле, показало, что почти 70 процентов главных финансовых директоров считали, что их сотрудники используют ИИ для попытки фальсифицировать расходы на поездки или чеки. Около 10 процентов сказали, что они уверены, что это произошло в их компании.

Мейсон Уайлдер, работающий директором по исследованиям в Ассоциации сертифицированных экспертов по мошенничеству, назвал поддельные чеки, созданные ИИ, «значительной проблемой для организаций».

Он сказал: «Нет никаких барьеров для входа для людей, чтобы сделать это. Вам не нужны никакие технологические навыки или способности, как, возможно, требовалось пять лет назад при использовании Photoshop».