Искусственный интеллект, создающий дипфейки, угрожает предстоящим выборам в Непале 5 марта

В преддверии предстоящих досрочных выборов в стране 5 марта был показан фейковый фильм с участием трех видных непальских политиков, демонстрирующий, как искусственный интеллект используется в качестве оружия.

В видеоролике, полностью созданном с помощью компьютера, были запечатлены бывший мэр Катманду Балендра Шах, бывший глава электроэнергетического сектора Кулман Гисинг и лидер Национальной партии Сватантра Раби Ламичхане, идущие вместе.

Когда видео стало вирусным в интернете, многие подумали, что зарождается новый политический альянс. Однако, поскольку вся встреча была сгенерирована компьютером, три политика на самом деле никогда не встречались.

Аудиоподделки распространяются через социальные сети.

Фейковое видео — лишь один из примеров контента, созданного с помощью ИИ, который сейчас заполоняет цифровое пространство Непала в преддверии выборов. Выборы проходят всего шесть месяцев после жестоких демонстраций, организованных молодежью, требующей положить конец коррупции. Эти протесты привели к отставке тогдашнего премьер-министра КП Шармы Оли и повергли политическую систему страны в хаос.

В результате этого кризиса доверия процветают цифровые подделки, направленные против известных личностей. Вице-dentпартии «Растрия Сватантра» Сварним Вагле подал заявление в кибербюро полиции Непала. Была сделана поддельная аудиозапись, чтобы создать впечатление, будто он обсуждал что-то с премьер-министром Индии, чего на самом деле не было.

Поддельные аудиозаписи представляют собой уникальную опасность в Непале, что подтверждается усилиями Poynter по проверке фактов. Голосовые сообщения быстро распространяются через семейные чаты и социальные сети, часто достигая получателей, которые не могут подтвердить их подлинность. Ненадежность инструментов, используемых для выявленияdentаудиозаписей, означает, что у обычных людей ограничены возможности отличить ложь от правды.

Попытки правительства взять ситуацию под контроль зачастую только усугубляли положение. Из-за несоблюдения требований регулирующих органов, Facebook, X и YouTube были заблокированы властями во время демонстраций в сентябре.

Запрет спровоцировал еще больше насилия, вместо того чтобы снизить напряженность. Агентство Reuters задокументировало по меньшей мере 77 смертей и тысячи ранений во время последовавшего хаоса. Власти в конечном итоге сняли ограничения, ноdent показал, почему жесткие меры блокирования не работают. Ложная информация просто переместилась в каналы, которые сложнее контролировать.

Избирательная комиссия Непала попыталась решить эти проблемы с помощью соответствующей политики. В принятых в 2021 году «Правилах использования социальных сетей в управлении выборами» были установлены первоначальные руководящие принципы. Новый проект кодекса поведения для предстоящих выборов конкретно запрещает распространение ложной информации и создание фейковых аккаунтов с целью повлиять на избирателей.

Однако специалисты предупреждают, что эти правила нуждаются в немедленном обновлении с учетом эпохи генеративного ИИ. Остаются без ответа следующие вопросы: что именно представляет собой синтетический контент? Должны ли избирательные кампании раскрывать контент, созданный с помощью ИИ? Кто несет ответственность за распространение ложной информации?

Эксперты призывают к скоординированному ответу.

В отсутствие совершенных правил специалисты и мониторинговые группы настаивают на более масштабных решениях. Poynter и аналогичные медиа-организации рекомендуют несколько шагов: новостные организации и специалисты по проверке фактов должны расследовать каждое вирусное видео как преступление, tracего происхождение и демонстрируя, как они его проверили.

Политические партии и кандидаты должны пообещать не использовать дипфейки и четко маркировать любой материал, созданный с помощью ИИ. Компании, владеющие социальными сетями, должны создать группы быстрого реагирования, знакомые с языками и политикой Непала. Обычные граждане должны применять подход «десятисекундной сортировки», останавливаясь, проверяя и подтверждая информацию, прежде чем делиться шокирующими заявлениями.

Кибербюро полиции Непала уже готовится к более изощренным атакам с технической точки зрения. Старший инспектор Рэй, сотрудник бюро, заявил: «Искусственный интеллект развивается и используется все шире. Вскоре мы можем увидеть преступления и кибератаки, которые будут облегчены с помощью ИИ » .

Рэй также отметил, что относительная новизна технологии может дать некоторую передышку. Он считает, что технологии все еще находятся в зачаточном состоянии и только начинают внедряться в общественность, поэтому может потребоваться немного больше времени, прежде чем их начнут использовать в качестве инструмента разрушения.

«Мы хорошо оснащены для борьбы с этими преступлениями и угрозами, и это правильно», — сказал Рэй. Он добавил: «Непальская полиция может расследовать любое действие. Единственное, что потребует времени для расследования, — это нападения с территории иностранных государств » .