Видеоролики, созданные с помощью искусственного интеллекта (ИИ), теперь обманом заставляют туристов посещать несуществующие места. Согласно недавним сообщениям, пара с восторгом ехала несколько часов, чтобы прокатиться на горной канатной дороге Kuak Skyride. Пара увидела видео в интернете, где туристы улыбались, а телеведущий комментировал происходящее.
Однако, когда пара прибыла на место, все оказалось не так, как прежде. Они обнаружили небольшой городок и растерянных местных жителей, которые не понимали, о чем идет речь. Выяснилось, что видео было создано с помощью искусственного интеллекта, и пара поверила, что оно настоящее.
«Зачем они так поступают с людьми?» — спросила пожилая малазийская женщина, узнав, что место, показанное в сне, было сфабриковано с помощью генеративного искусственного интеллекта Veo3 .
Искусственный интеллект заставляет людей верить фейковым видео
По словам сотрудника отеля, которого они опросили, пожилая малазийская женщина случайно наткнулась на видео в TikTok и сообщила мужу о местоположении. Оба были впечатлены видами и решили попробовать. Видео было настолько убедительным, что телеведущий проехал в трамвае и взял интервью у довольных туристов. Однако они не заметили логотип Veo3 в правом нижнем углу видео, указывающий на то, что видео было снято с помощью этого инструмента.
Хотя эта неразбериха по-прежнему вызывает смех, она демонстрирует еще одну опасную сторону искусственного интеллекта . В этом dent не потребовались преступники или мошенники, пытавшиеся заставить их заплатить за поездку в место мечты или отправить им ложную ссылку для регистрации, но он все же показывает, насколько легко злоумышленникам совершать противоправные действия с помощью подобных видеороликов.
Искусственный интеллект затруднил различение реальных и вымышленных событий. Даже такие незначительные действия, как планирование отпуска, требуют от людей особой бдительности. Случай с малазийской парой может показатьсяdent, но он также показывает, что нам нужно начать сомневаться в доверии к тому, что мы видим, слышим или переживаем, в мире, где ИИ может с легкостью и пугающей точностью создавать что угодно.
«Черная дыра» искусственного интеллекта продолжает расти
Цифры также подтверждают точку зрения о коллективном погружении в цифровой обман. Например, количество атак с использованием дипфейков выросло с примерно 0,1% от всех попыток мошенничества три года назад до примерно 6,5% сегодня, что составляет значительный скачок на 2137%, то есть каждый пятнадцатый случай мошенничества, как указано в отчете компании Signicat,dent, за февраль 2025 года.
Статистика — это не просто цифры, за ними стоят реальные жертвы. Типичный пример — Стив Бошамп, 82-летний пенсионер, который снял все 690 000 долларов со своего пенсионного счета после просмотра дипфейк- видео с Илоном Маском, рекламирующим инвестиционную схему. «Я имею в виду, на фотографии был он сам», — сказал Бошамп газете The New York Times. После этого неприятного инцидента dent его сбережения исчезли в цифровой пустоте.
Масштабы обмана, осуществляемого с помощью искусственного интеллекта, затронули все аспекты человеческой жизни. Британская инженерная компания Arup потеряла более 25 миллионов долларов после того, как один из ее сотрудников был обманут во время видеоконференции с использованием дипфейка, изображающего финансового директора компании и других сотрудников. Директор школы также получил угрозы убийством после того, как видео, созданное с помощью ИИ, показало, как он делает расистские и антисемитские заявления. Позже выяснилось, что видео было создано его спортивным директором, чтобы дискредитировать его.
Туризм и до того, как искусственный интеллект усовершенствовал искусство обмана, был глубоко погружен в искусственную реальность. Социальные сети превратили путешествия в селфи-туризм, поскольку большинство посетителей едут в места, достойные отдыха, только для того, чтобы сделать лучшие снимки для Instagram. ЮНЕСКО также объявила о чрезвычайной ситуации, предупреждая, что путешественники теперь посещают знаковые достопримечательности, чтобы «в основном делать и делиться фотографиями самих себя, часто на фоне знаковых мест»
