Растущая угроза дезинформации на базе искусственного интеллекта на глобальных выборах
- Искусственный интеллект, используемый для распространения дезинформации, угрожает выборам во всём мире: генеративные ИИ-инструменты усиливают охват и влияние пропаганды.
- Ближайшее совпадение сроков выборов по всему миру повышает привлекательность ИИ-управляемой дезинформации как для иностранных, так и для внутренних акторов.
- Эффективные стратегии защиты требуют раннего выявления угроз, научных исследований и международного сотрудничества для обеспечения безопасности демократических процессов перед лицом постоянно развивающихся тактик на базе ИИ.
По мере того как выборы проходят по всему миру, они сталкиваются с новой и серьезной угрозой со стороны иностранных акторов, использующих мощное оружие: искусственный интеллект. Сфера влияния на выборы вступила в новую фазу в 2016 году, когда российские кампании дезинформации нацелились на президентские выборы в США через социальные сети. В последующие годы Китай и Иран последовали их примеру, используя социальные сети для влияния на выборы в США и в различных частях мира. По мере приближения к 2023 и 2024 годам угроза сохраняется, но с новым элементом: генеративным ИИ и большими языковыми моделями, которые могут усилить воздействие дезинформации.
Сила пропаганды на основе ИИ
Инструменты генеративного ИИ, такие как ChatGPT и более мощная GPT-4, могут быстро создавать огромные объемы текста в различных тонах и перспективах. Это делает их уникально подходящими для пропаганды эпохи интернета. Хотя точные последствия этих технологий для кампаний дезинформации остаются неопределенными, мир вот-вот станет свидетелем их влияния.
Сезон выборов вот-вот охватит демократический мир, когда многие страны проведут национальные выборы. Эти выборы имеют огромное значение для стран, ранее участвовавших в операциях по влиянию через социальные сети. Например, интересы Китая распространяются на Тайвань, Индонезию, Индию и множество африканских стран, в то время как Россия следит за Великобританией, Польшей, Германией и Европейским союзом. Соединенные Штаты остаются центром внимания различных акторов. По мере снижения стоимости иностранного влияния, больше стран могут присоединиться к арене, особенно с такими инструментами, как ChatGPT, делающими производство пропаганды доступным.
Вмешательство в выборы и меняющийся ландшафт
На недавней конференции, на которой присутствовали представители всех агентств кибербезопасности США, обсуждались ожидания относительно вмешательства в выборы в 2024 году. Помимо привычных игроков, таких как Россия, Китай и Иран, появилась новая категория: «внутренние акторы». Этот сдвиг является прямым результатом снижения затрат, связанных с кампаниями дезинформации на основе ИИ.
Вызовы, выходящие за рамки генерации контента
Хотя ИИ облегчает создание контента, распространение остается ключевой проблемой для пропагандистов. Фейковые аккаунты играют важную роль в публикации и усилении контента до тех пор, пока он не станет вирусным. Такие компании, как Meta, улучшили свои возможности по выявлению и удалению таких аккаунтов, как продемонстрировала недавняя зачистка китайской кампании влияния. Однако борьба с дезинформацией остается гонкой вооружений. По мере изменения социальных сетей пропагандистские каналы адаптируются, часто переходя на мессенджеры, такие как Telegram и WhatsApp, что затрудняет обнаружение и удаление. Подконтрольный Китаю TikTok предлагает платформу для коротких видео, созданных ИИ, что еще больше усложняет ландшафт.
Инструменты генеративного ИИ позволяют применять новые методы производства и распространения, такие как низкоуровневая пропаганда в масштабах. Рассмотрим персональные аккаунты в социальных сетях на базе ИИ, которые ведут себя нормально, публикуя посты о повседневной жизни и интересах, но время от времени внедряют политический контент. Эти «боты-персоны» имеют минимальное индивидуальное влияние, но могут оказать значительное коллективное воздействие при развертывании в больших количествах.
Дезинформация на стероидах ИИ
Военные структуры, стоящие за вмешательством в выборы, такие как в России и Китае, вероятно, разрабатывают сложные тактики, выходящие за рамки стратегий эпохи 2016 года. Перед масштабированием эти страны часто тестируют кибератаки и информационные операции на более мелких государствах. Раннее распознавание и каталогизация этих тактик имеют решающее значение для противодействия новым кампаниям дезинформации.
По мере того как кампании дезинформации на основе ИИ становятся более продвинутыми, США должны проактивно отпечатывать и идентифицировать пропаганду, созданную ИИ, в других странах, таких как Тайвань, где дипфейк-аудиозаписи дискредитировали политических кандидатов. Без раннего обнаружения и понимания эти кампании могут остаться незамеченными до тех пор, пока не достигнут внутренних берегов.
Необходимость исследований и защиты
Хотя некоторые недавние выборы прошли без серьезных проблем, связанных с дезинформацией на основе ИИ, раннее осознание и исследования необходимы для готовности. Исследователи должны изучить методы, используемые в иностранных кампаниях, чтобы разработать эффективные стратегии защиты. Сообщество кибербезопасности признает, что обмен методами атак и их эффективностью имеет решающее значение для создания надежных систем защиты.
Угроза дезинформации на основе ИИ на выборах растет, что требует проактивного и информированного подхода. По мере вступления в эту новую эпоху вмешательства в выборы страны должны оставаться бдительными, способствовать международному сотрудничеству и разрабатывать механизмы защиты, способные противостоять пропаганде на основе ИИ. Чем раньше мы поймем эти эволюционирующие тактики, тем лучше сможем защитить целостность наших демократических процессов.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
