Технология Deepfake, в которой используются генеративные платформы , такие как Midjourney 5.1 и DALL-E 2 от OpenAI, продемонстрировала замечательные возможности в создании реалистичных изображений и видео. Однако Федеральное бюро расследований США (ФБР) недавно выпустило предупреждение, в котором говорится, что преступники используют дипфейки для вымогательства.
ФБР предупреждает общественность о мошенничестве с вымогательством
По данным ФБР, оно получило сообщения от жертв, в том числе несовершеннолетних и взрослых без согласия, чьи фотографии или видео были обработаны для создания откровенного контента. В сообщении общественной службы (PSA), опубликованном в понедельник, агентство подчеркнуло растущую распространенность случаев онлайн-вымогательства, особенно тех, которые связаны с «мошенничеством с секс-вымогательством» с использованием дипфейков. Только в прошлом году правоохранительные органы получили более 7000 заявлений о вымогательстве в Интернете в отношении несовершеннолетних, причем с апреля увеличилось количество dent , связанных с дипфейками.
Дипфейки — это сфабрикованный аудио- или видеоконтент, созданный с помощью искусственного интеллекта, что часто затрудняет определение подлинности материала. Развитие таких платформ, как Midjourney 5.1 и DALL-E 2 от OpenAI, способствовало совершенствованию и доступности технологии дипфейков. К сожалению, это также позволило злоумышленникам использовать технологию в незаконных целях.
Агентство выделяет риски, связанные с использованием технологии
Предупреждение ФБР прозвучало после нескольких dent , подчеркивающих потенциальную опасность дипфейков. Например, дипфейк-видео с участием генерального директора Tesla и Twitter Илона Маска было широко распространено для обмана инвесторов в криптовалюту. В сфабрикованном видео использовались кадры из предыдущих интервью Маска, искусно отредактированные, чтобы соответствовать повествованию мошенника.
Важно отметить, что не все дипфейки являются вредоносными. Некоторые дипфейки привлекли внимание своими юмористическими или творческими элементами, например, вирусное видео , изображающее Папу Франциска в белой куртке Balenciaga. Кроме того, дипфейки, созданные ИИ, использовались для цифрового воссоздания умерших людей с целью вернуть их к жизни в различных контекстах.
В ответ на эти угрозы ФБР предоставило рекомендации по защите от вымогательства, связанного с дипфейками. Они советуют не платить какой-либо выкуп, так как это не гарантирует, что преступники воздержатся от публикации дипфейкового контента. Агентство также подчеркивает важность проявления осторожности при обмене личной информацией и контентом в Интернете, предлагая использовать функции конфиденциальности для ограничения доступа к учетным записям. Мониторинг активности детей в Интернете, бдительность в отношении необычного поведения прошлых знакомых и частый поиск личной информации и информации о членах семьи в Интернете - это дополнительные меры, рекомендованные ФБР.
