Виральные ИИ-сгенерированные фотографии «бездомного» в результате розыгрыша привели к вызову скорой помощи и вмешательству полиции

Полицейские управления в нескольких штатах США предупреждают граждан об опасности использования сгенерированных ИИ фотографий и видео с вымышленным «бездомным», который якобы проникает в дома людей. Чиновники заявляют, что вирусный розыгрыш вызывает экстренные звонки, которые тратят ресурсы полиции, поскольку он «глуп и потенциально опасен».

Тренд с «бездомным» начал распространяться на таких платформах, как TikTok и Instagram, в начале октября. Речь идет об сгенерированных ИИ реалистичных изображениях или видеороликах с незнакомым мужчиной, который проникает в дом, открывает холодильник, ложится в кровать или отдыхает на диване. 

Розыгрыши включают отправку созданного ИИ контента друзьям или родственникам, чтобы убедить их в том, что в их дом проник бездомный. Гиперреалистичность изображений вызвала панику среди не подозревающих об этом получателей, из-за чего несколько человек в состоянии стресса звонили в службу 911. 

ИИ-мошенничество приводит к растрате ресурсов полиции

Согласно The New York Times, полицейские управления в Массачусетсе, Мичигане, Нью-Йорке и Висконсине получил получают экстренные сообщения о проникновении в дома, которые позже оказываются ИИ-розыгрышами.

Прибывшие на место офицеры с мигающими огнями и сиренами обнаруживали, что преступления не совершалось. Полиция заявляет, что эти ложные тревоги тратят общественные ресурсы и создают риск для жизни офицеров и гражданских лиц.

Полицейское управление Салема (Массачусетс) выпустило одно из первых предупреждений в начале этого месяца после получения нескольких звонков в службу 911, связанных с ИИ-розыгрышем.

«Помимо того, что это дурной тон, есть много причин, по которым этот розыгрыш, если говорить прямо, глуп и потенциально опасен», — говорится в заявлении управления. Чиновники Салема также предупредили организаторов розыгрышей, что подача ложного сообщения об экстренной ситуации является уголовным преступлением в штате, за которое предусмотрено наказание в виде лишения свободы на срок до двух с половиной лет или штрафа до $1 000.

Управление осудило этот тренд за «обезличивание бездомных», заявив, что он высмеивает уязвимую группу населения, одновременно подвергая опасности общественность.

В Нью-Йорке полицейское управление Йонкерса опубликовало в Facebook сгенерированные AI изображение, демонстрирующее суть розыгрыша, сообщив, что они уже реагировали на несколько вызовов.

«Офицеры реагируют БЫСТРО на то, что звучит как сообщение о реальном проникновении, и их только потом отзывают, когда все понимают, что это шутка», — написало управление. «Это не только растрата ресурсов офицеров, реагирующих на вызов, но и риск для членов семьи дома, если наши офицеры ворвутся в дом, чтобы задержать этого „проникшего“, которого не существует».

ИИ-обман приводит к аресту в Мэриленде

Власти Мэриленда уже арестовали человека, связанного с вирусным розыгрышем. Полиция округа Монтгомери сообщила, что 27-летняя Меша Гарднер из Северного Бетесды была задержана после того, как, по предварительным данным, организовала ложное проникновение в дом с использованием сгенерированных ИИ фотографий.

По данным управления, Гарднер написала своему мужу в сообщении, что после того, как она открыла дверь, в их дом проник злоумышленник, 8 октября. Ее муж позвонил в службу 911, а Гарднер отправила ему фотографию, на которой, как казалось, был виден мужчина, лежащий на их диване под одеялом. Расследование показало, что изображение было создано с помощью искусственного интеллекта.

Гарднер была арестована 10 октября и обвинена в даче ложных показаний при экстренном вызове или сообщении о преступлении, а также в предоставлении ложной информации должностному лицу штата. Позже она была выпущена под личное необеспеченное поручительство в размере $10 000, сообщили в полиции.

«Эти действия влекут за собой серьезные юридические последствия. Ложное сообщение о преступлениях или создание фиктивных чрезвычайных ситуаций тратит ценные ресурсы и может поставить под угрозу жизни как офицеров, так и гражданских лиц», — говорится в заявлении полицейского управления округа Монтгомери утверждала.

Полицейские управления призывают социальные сети пользователей дважды подумать, прежде чем делиться или создавать контент с использованием ИИ и использовать его для розыгрышей. В нескольких заявлениях чиновники отметили, что «сваттинг» (действие, заключающееся в подаче ложных экстренных вызовов для провокации вооруженной реакции полиции) уже привело к нескольким смертям в США. 

«Я рассматриваю это как новую версию сваттинга. Это действительно, очень плохая идея», — считает капитан полиции Салема Бёрк.

The New York Times также упомянул, что ИИ использовался в розыгрыше, циркулирующем в социальных сетях, с сфабрикованными изображениями мускулистых голых сантехников в ванных комнатах и на кухнях. Сообщается, что женщины используют эти фотографии, чтобы спровоцировать ревностную реакцию своих партнеров.