Созданные с помощью ИИ поддельные чеки становятся все большей проблемой для компаний по всему миру

Компании по всему миру сталкиваются с растущей проблемой: работники используют программное обеспечение на основе искусственного интеллекта для создания поддельных квитанций о расходах, что знаменует собой высокотехнологичный подход к мошенничеству на рабочем месте.

Проблема усугубилась после того, как крупные технологические компании, такие как OpenAI и Google, выпустили новые программы на основе искусственного интеллекта, способные создавать реалистичные изображения. Компании, разрабатывающие программное обеспечение для учета расходов сотрудников, сообщают о значительном увеличении числа поддельных квитанций, предоставляемых работниками.

Компания AppZen, разрабатывающая программное обеспечение для tracрасходов предприятий, обнаружила, что поддельные квитанции, созданные с помощью ИИ, составляли около 14 процентов от всех мошеннических документов, представленных в сентябре. В прошлом году таких случаев не было. Другая компания, Ramp, заявила, что ее новое программное обеспечение для обнаружения мошеннических документов выявило поддельные счета-фактуры на сумму более 1 миллиона долларов всего за 90 дней.

Опрос финансовых менеджеров в США и Великобритании показал масштабы проблемы. Около 30 процентов опрошенных компанией Medius, занимающейся управлением расходами, финансовых специалистов заявили, что заметили увеличение количества поддельных квитанций после того, как в прошлом году компания OpenAI выпустила GPT-4o.

«Эти квитанции стали настолько качественными, что мы говорим нашим клиентам: „Не доверяйте своим глазам“», — говорит Крис Джуно, старший вице-dent и руководитель отдела продуктового маркетинга SAP Concur. Его компания является одной из крупнейших в мире платформ tracрасходов, обрабатывая более 80 миллионов проверок соответствия требованиям каждый месяц с помощью искусственного интеллекта.

После того, как в марте OpenAI запустила улучшенные функции создания изображений в GPT-4o, многие платформы отметили значительный рост количества чеков, созданных с помощью ИИ.

В ответ на запрос Financial Times компания OpenAI заявила, что принимает меры в случае нарушения правил. Компания также сообщила, что её изображения содержат скрытую информацию, указывающую на то, что они были созданы ChatGPT.

Искусственный интеллект делает подделку документов доступной для всех

Раньше для изготовления поддельных чеков требовалось уметь редактировать фотографии или платить кому-то за это через онлайн-сервисы. Теперь же бесплатные и простые в использовании программы на основе искусственного интеллекта позволяют работникам создавать фальшивые чеки за считанные секунды, просто вводя простые инструкции в компьютерные чат-боты.

Несколько поддельных квитанций, показанных Financial Times компаниями, занимающимися управлением расходами, выглядели очень правдоподобно. Они включали в себя мятую бумагу, подробные списки товаров, совпадающие с реальными меню ресторанов, и подписи.

«Это не угроза будущего; это уже происходит. Хотя в настоящее время лишь небольшой процент не соответствующих требованиям чеков генерируется искусственным интеллектом, эта тенденция будет только расти», — сказал Себастьян Маршон, руководитель платформы управления расходами Rydoo.

Компании дают отпор, используя инструменты обнаружения на основе ИИ

Поскольку эти поддельные чеки выглядят очень реалистично, компании теперь используют программы искусственного интеллекта для их обнаружения, так как работникам-людям сложно отличить настоящие чеки от поддельных.

Программа обнаружения проверяет скрытые данные в файлах изображений, чтобы определить, были ли они созданы программой искусственного интеллекта. Однако работники могут легко удалить эту информацию, сфотографировав или сделав скриншот поддельного чека.

Для противодействия программа также анализирует другие детали, такие как повторяющиеся имена и время серверов, а также более общую информацию о командировке сотрудника.

«Технологии позволяют детально и внимательно изучать все аспекты, в отличие от людей, которые со временем начинают что-то упускать из виду, ведь они — люди», — сказал Кэлвин Ли, старший директор по управлению продуктами в компании Ramp.

Исследование, проведенное компанией SAP в июле, показало, что почти 70 процентов финансовых директоров считают, что их сотрудники используют ИИ для попытки фальсификации командировочных расходов или квитанций. Около 10 процентов заявили, что уверены в подобных случаях в своей компании.

Мейсон Уайлдер, директор по исследованиям в Ассоциации сертифицированных экспертов по борьбе с мошенничеством, назвал поддельные чеки, созданные с помощью ИИ, «серьезной проблемой для организаций»

Он сказал: «Для людей нет никаких препятствий для начала работы. Вам не нужны никакие технологические навыки или способности, которые, возможно, потребовались бы пять лет назад при использовании Photoshop»