Партийный законопроект движется к ужесточению борьбы с мошенничеством с использованием ИИ и дипфейками федеральных чиновников

Два законодателя предложили беспартийный законопроект под названием «Закон о сдерживании мошенничества с ИИ» (The AI Fraud Deterrence Act), который направлен на решение проблемы растущего злоупотребления искусственным интеллектом в мошеннических схемах, особенно тех, которые используют дипфейки для обмана федеральных чиновников. 

Это законодательство будет сосредоточено на модернизации существующих законов США о мошенничестве, чтобы они учитывали роль, которую технология искусственного интеллекта сыграла в недавних громких инцидентах, когда ИИ-сгенерированные аудио или видео обманывали чиновников или общественность.

Подробнее о беспартийном законопроекте

Законопроект, предложенный представителями Тедом Лиу (Д-Калифорния) и Нилом Данном (Р-Флорида), двумя законодателями, которые устали от легкости и наглости, с которыми преступники теперь используют ИИ в своих обманных практиках, стремится расширить штрафы за ИИ-мошенничество и криминализировать выдачу себя за федеральных чиновников с помощью ИИ.

«По мере того как технологии ИИ развиваются быстрыми темпами, наши законы должны успевать за ними», — сказал Данн в заявлении о представлении законопроекта. «Закон о сдерживании мошенничества с ИИ усиливает наказания за преступления, связанные с мошенничеством, совершенным с помощью ИИ. Я горжусь тем, что со-представляю это законодательство для защиты личностей граждан и предотвращения злоупотребления этой инновационной технологией».

Лиу согласен и на прошлой неделе сказал NBC News, что большинство американцев хотят «разумных ограничений на ИИ», так как не считают, что «полный Дикий Запад полезен».

В соответствии с предлагаемый законпредусматривает, что максимальный штраф за мошенничество будет удвоен с $1 млн до $2 млн в случаях, когда ИИ намеренно используется для облегчения преступления. Он также включит ИИ-опосредованное обманывание в определения почтового и телекоммуникационного мошенничества, что означает, что возможно предъявление обвинений лицам, использующим ИИ для совершения любого из этих видов мошенничества.

В обоих случаях преступникам могут грозить многомиллионные штрафы и до двадцати лет тюремного заключения за почтовое мошенничество и три года за телекоммуникационное мошенничество. 

Проект также осуждает выдачу себя за федеральных чиновников с помощью ИИ-дипфейков, выделяя случаи, когда ИИ использовался в попытках имитировать главу аппарата Белого дома Сьюзи Уайлз и госсекретаря Марко Рубио в начале этого года.

Мошенничество существует столько же, сколько и люди, но эксперты говорят, что благодаря ИИ качество мошеннических результатов выросло. 

В декабре ФБР предупредило, что «генеративный ИИ сокращает время и усилия, которые преступники должны затрачивать на обман своих целей», добавив, что ИИ «может исправлять человеческие ошибки, которые иначе могли бы служить предупреждающими знаками мошенничества».

Маура Р. Гросман, профессор компьютерных наук в Университете Ватерлоо в Онтарио и адвокат, также считает, что ИИ позволяет новую эпоху обмана: «ИИ представляет масштаб, охват и скорость мошенничества, которые очень и очень отличаются от мошенничества в прошлом».

Модели ИИ стали более продвинутыми

Однако тот факт, что он облегчает преступление, не является самой большой проблемой. Наблюдатели теперь обеспокоены тем, что текущие институты, такие как судебные системы, борются с тем, чтобы успевать за быстрым развитием, происходящим в секторе ИИ. 

«Годы ИИ — это собачьи годы», — сказал Хани Фарид, профессор компьютерных наук в Калифорнийском университете в Беркли и соучредитель GetReal Security, ведущей компании по аутентификации цифровых медиа, о скорости прогресса ИИ.

В прошлом было не слишком сложно отличить контент ИИ от реального контента, особенно в случае изображений; однако сегодня они стали более продвинутыми, и даже самые опытные пользователи теперь испытывают трудности с определением того, является ли медиа-контент реальным или сгенерированным. 

Предупреждение ФБР в декабре рекомендовало людям обращать внимание на несоответствия в изображениях и видео, чтобы выявить ИИ-сгенерированные медиа: «Ищите тонкие несовершенства в изображениях и видео, такие как искаженные руки или ноги».

Однако Фарид считает, что этот старый совет неверен и даже вреден. «Трюк с несколькими руками больше не работает», — сказал Фарид. «Вы не можете искать руки или ноги. Ничто из этого не работает».

Законопроект Лиу и Данна подчеркивает важность маркировки ИИ-сгенерированного контента. Он также уточняет, что у ИИ-сгенерированных медиа есть свое время и место. Например, если контент помечен как сатирический, тег уточняет, что он не является подлинным, и поэтому освобождается от наказания.