- Сгенерированные ИИ фальшивки распространяются перед выборами 5 марта в Непале, включая сфабрикованные видео и аудиозаписи политических лидеров.
- Запрет на социальные сети после протестов привел к гибели 77 человек и загнал дезинформацию в подполье.
- Эксперты призывают проверять информацию перед распространением, поскольку полиция готовится к сложным атакам с использованием ИИ.
На фоне предстоящих досрочных выборов в стране 5 марта фальшивое видео с участием трех видных политиков Непала показало, как ИИ используется как оружие.
Видео, полностью сгенерированное компьютером, изображало бывшего мэра Катманду Баленду Шаха, бывшего руководителя энергетического сектора Кулмана Гхизинга и лидера партии Растрия Сватантра Парти Раби Ламичхане, идущих вместе.
Многие люди думали, что формируется новый политический альянс, когда видео стало вирусным в интернете. Однако, поскольку вся встреча была сгенерирована компьютером, трое политиков никогда на самом деле не встречались.
Аудиофальсификации распространяются через социальные сетей
Фальшивое видео является лишь одним из примеров контента, созданного с помощью ИИ, который сейчас заполоняет цифровое пространство Непала по мере приближения выборов. Голосование состоится всего через шесть месяцев после насильственных демонстраций, организованных молодежью, требующей прекращения коррупции. Эти протесты вынудили тогдашнего премьер-министра К. П. Шарма Оли уйти в отставку и погрузили политическую систему страны в хаос.
Цифровые подделки, нацеленные на известных людей, процветают в результате этого кризиса доверия. Вице-президент партии Растрия Сватантра Парти Сварним Вагль подал жалобу в Кибербюро полиции Непала. Была создана фальшивая аудиозапись, создающая впечатление, что он вел разговор с премьер-министром Индии, которого на самом деле не было.
Эти аудио-подделки представляют уникальные риски в Непале, как продемонстрировали фактчекинговые усилия Poynter. Голосовые сообщения быстро распространяются через семейные чаты и социальные сети, часто достигая получателей, которые не могут подтвердить их подлинность. Ненадежность инструментов, используемых для выявления измененного аудио, означает, что у обычных людей есть ограниченные средства для различения лжи и правды.
Попытки правительства контролировать ситуацию часто усугубляли положение. Во время демонстраций в сентябре власти заблокировали Facebook, X и YouTube из-за их несоблюдения требований регуляторов.
Запрет вызвал еще большее насилие вместо успокоения напряженности. Reuters задокументировал как минимум 77 смертей и тысячи раненых во время хаоса, последовавшего за этим. Чиновники в конечном итоге сняли ограничения, но инцидент показал, почему грубое блокирование не работает. Ложная информация просто переместилась в менее контролируемые каналы.
Избирательная комиссия Непала пыталась решить эти проблемы через политику. Их «Политика по использованию социальных сетей в избирательном управлении» 2021 года установила первоначальные руководящие принципы. Новый проект кодекса поведения для предстоящих выборов конкретно запрещает ложную информацию и фейковые аккаунты, предназначенные для влияния на избирателей.
Однако специалисты предупреждают, что эти правила требуют немедленного обновления для эпохи генеративного ИИ. Остаются без ответа вопросы: Что именно составляет синтетический медиа-контент? Должны ли кампании раскрывать контент, созданный с помощью ИИ? Кто несет ответственность, когда распространяется ложная информация?
Эксперты призывают к скоординированному ответ
При отсутствии идеальных правил специалисты и группы мониторинга выступают за более широкие решения. Poynter и подобные медиаорганизации рекомендуют несколько шагов: новостные организации и факт-чекеры должны расследовать каждое вирусное видео как преступление, отслеживая его происхождение и демонстрируя, как они его проверили.
Политические партии и кандидаты должны пообещать не использовать глубокие подделки и четко маркировать любой материал, созданный с помощью ИИ. Социальные сети должны создать команды быстрого реагирования, знакомые с языками и политикой Непала. Обычные граждане должны применять подход «десятисекундной сортировки»: останавливаться, проверять и подтверждать перед тем, как делиться шокирующими утверждениями.
Кибербюро полиции Непала уже готовится к более продвинутым атакам на техническом уровне. СП Рэй, официальный представитель бюро, сказал: «ИИ становится все более масштабным и используется все большим количеством способов. Вскоре мы можем увидеть преступления и кибератаки, которые ИИ делает легче.»
Рэй также отметил, что относительная новизна технологии может обеспечить некоторую передышку. Он считает, что ИИ технология все еще находится в зачаточном состоянии и только начинает внедряться общественностью, поэтому может потребоваться немного больше времени, чтобы использовать ее как инструмент разрушения.
«Мы хорошо оснащены для борьбы с этими преступлениями и угрозами, и мы должны это делать», — сказал Рэй. Он добавил успокаивающие слова: «Полиция Непала может расследовать любые действия. Единственное, на что потребуется время для расследования, — это атаки с иностранной территории.»
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Хания Хумайун
Хания присоединилась к Cryptopolitan с многолетним опытом анализа финансов, экономических тенденций и рынков прогнозов. Она освещала темы, связанные с новыми технологиями, искусственным интеллектом и финтехом. Опыт Хании в качестве лицензированного архитектора добавил новостным материалам живости и точности. Она окончила Национальный колледж искусств в Лахоре со степенью по архитектуре,
