Растущие опасения по поводу влияния ИИ на выборы в 2024

Мир готовится к водовороту выборов в различных странах, по крайней мере 65 из которых запланированы в 54 государствах. Ожидается, что в этих выборах примут участие более двух миллиардов избирателей. 

На фоне этого демократического подъема растут опасения по поводу роли искусственного интеллекта (ИИ) в формировании результатов выборов. Хотя потенциальное влияние сгенерированной ИИ дезинформации вызывает беспокойство, несколько факторов в настоящее время смягчают его влияние.

Сгенерированная ИИ дезинформация: растущая проблема

В последние годы инциденты подчеркивали потенциальные риски сгенерированной ИИ дезинформации. Например, в сети циркулировали глубокий фейк с видео, на котором президент Украины Владимир Зеленский якобы объявляет о капитуляции своей страны, фотография взрыва в Пентагоне, созданная ИИ, и фальшивые аудиозаписи, якобы демонстрирующие фальсификацию выборов. 

Эти случаи подчеркивают опасения, что ИИ может быть использован для манипулирования общественным мнением в период выборов.

Одним из успокаивающих факторов является кратковременное воздействие большей части сгенерированной ИИ дезинформации. Эти фейковые нарративы были быстро разоблачены в упомянутых случаях и не получили распространения в авторитетных новостных источниках. Такая дезинформация должна интегрироваться в более широкие и убедительные нарративы, чтобы стать по-настоящему опасной.

Потребность в квалифицированных человеческих операторах

Хотя ИИ может создавать убедительный контент, он не обладает автономией для создания, распространения или поддержания историй без участия квалифицированных человеческих операторов. Эти люди обладают знаниями в области политики, новостей и дистрибуции; их экспертиза необходима для создания и распространения убедительных нарративов.

Так же, как многие человеческие политические кампании терпят неудачу, кампании с использованием ИИ уязвимы к недостаткам без руководства квалифицированных лиц. Тем не менее, мы должны оставаться бдительными, поскольку возможности ИИ продолжают развиваться.

Современный медиаландшафт фрагментирован, пользователи распределяются по различным социальным сетям и платформам. Рост нишевых сообществ на таких платформах, как Threads, BlueSky и Mastodon, а также диверсификация пользователей Facebook на Instagram и TikTok, дополнительно ограничивают охват дезинформации. 

Эта фрагментация создает трудности в обнаружении и объяснении таких явлений, но ограничивает их влияние на меньшие уголки интернета.

Естественная защита от дезинформации ИИ

Эти три фактора — эфемерный характер большей части фейков, созданных ИИ, необходимость согласования с более крупными нарративами и фрагментация информационного ландшафта — обеспечивают некоторую «естественную» защиту от потенциального вреда ИИ на выборах. 

Однако полагаться исключительно на эти особенности недостаточно. Необходим проактивный подход к защите демократии и выборов.

Чрезмерная технологическая персонализация в избирательных кампаниях, будь то через ИИ, социальные сети или платную рекламу, должна быть ограничена. Хотя избиратели хотят понять, что могут предложить политики индивидуально, они также хотят прозрачности в отношении политик, предлагаемых всем. 

Политические кампании должны воздерживаться от развертывания тысяч ИИ-агентов для адаптации сообщений к отдельным избирателям, так как это может подорвать демократический процесс.

Обеспечение того, чтобы люди были теми, за кого себя выдают, имеет решающее значение в цифровом мире. Хотя анонимность играет роль в голосовании, прозрачность онлайн-идентичностей необходима в вопросах выборов. 

Доверие имеет первостепенное значение, и граждане должны иметь средства для проверки подлинности онлайн-голосов. Сгенерированный ИИ контент не должен использоваться для обмана или сокрытия идентичностей.

Роль платформ социальных сетей

Как основные каналы распространения информации, социальные платформы должны активно способствовать борьбе с сгенерированной ИИ дезинформацией. Хотя не все платформы могут стать значимыми игроками в генеративном ИИ, они все еще играют жизненно важную роль в формировании общественного дискурса. Эти платформы должны помогать пользователям идентифицировать контент, созданный ИИ, контролировать и предотвращать массовую манипуляцию аккаунтами и комментариями, пресекать скоординированные атаки ИИ и способствовать исследованиям и аудиту их систем.

Чтобы противостоять угрозе, исходящей от сгенерированной ИИ дезинформации, общество должно занять коллективную позицию в пользу демократии. Дезинформация часто исходит от влиятельных фигур, способствуя поляризации и фрагментации. 

Когда лидеры подают пример, общество следует их примеру. Поэтому важно установить более высокие стандарты и однозначно осудить политиков и кампании, которые используют ИИ для введения граждан в заблуждение.