Появление ИИ-чатботов и новых телеканалов может существенно повлиять на будущие выборы

Появление ИИ-чатботов и возникновение новых телеканалов вызвали серьезные опасения относительно их потенциального влияния на будущие выборы. Активисты и даже недобросовестные государства могут использовать технологии генеративного ИИ для влияния на исход выборов в Великобритании. С экспоненциальным ростом чатботов на базе искусственного интеллекта количество голосов, поданных на основе вводящих в заблуждение новостей, созданных этими ботами, вызывает тревогу. Кроме того, ложные изображения и вокальная мимикрия, генерируемые инструментами обработки естественного языка, могут обмануть избирателей, заставив их выбрать кандидатов на ложных основаниях. 

Угроза дезинформации

Технологии генеративного ИИ представляют собой насущную угрозу целостности новостей и информации. Его способность создавать аутентичный текст на различные темы привела к быстрому росту таких приложений, как ChatGPT, набравшего более 100 миллионов пользователей в течение двух месяцев после запуска. Организация NewsGuard, анализирующая достоверность новостных изданий, выявила 49 сайтов с новостями и информацией, написанными ИИ, в мае, а к последнему подсчету их число выросло до 217. Огромный объем «новостных» статей, сгенерированных ИИ, вызывает опасения относительно распространения дезинформации.

Использование ложных изображений и вокальной мимики, созданных ИИ, добавляет еще один уровень беспокойства. Недавние случаи, такие как распространение сгенерированного ИИ фейкового изображения взрыва возле Министерства обороны США и признание кампании республиканского кандидата в президенты Рона Десантиса в использовании созданных ИИ ложных изображений для дискредитации своего соперника, иллюстрируют потенциал манипуляций. Кроме того, инструмент ИИ от Microsoft может воспроизвести голос человека всего по трем секундам аудиозаписи, еще больше размывая грань между правдой и обманом.

Роль новых телеканалов новостей

Рэйчел Корп, генеральный директор ITN, подчеркнула насущную угрозу, которую представляет генеративный ИИ для фактической информации. Корп призвала к срочному вмешательству правительства, предложив создать рабочую группу для решения потенциального ущерба, причиняемого этой технологией. Она предупреждает, что производительность генеративного ИИ может затмить доверенные новостные издания, заставив людей потерять доверие к представляемой им информации. Поток сгенерированного ИИ контента создает риск информационной перегрузки, потенциально подрывая общественное доверие к источникам новостей.

Рэйчел Корп, главный исполнительный директор ITN, подчеркнула серьезную угрозу, которую представляет генеративный ИИ для достоверной информации. Корп призвала к срочному вмешательству правительства, предложив создать рабочую группу для решения потенциального ущерба, причиняемого этой технологией. Она предупреждает, что продуктивность генеративного ИИ может затмить авторитетные новостные издания, что приведет к потере доверия людей к предоставляемой информации. Поток контента, созданного ИИ, создает риск информационной перегрузки, что потенциально подрывает доверие общественности к источникам новостей.

Дезинформация в день выборов

Одной из ключевых проблем является потенциальное распространение сгенерированной ИИ дезинформации в день выборов, когда государственные вещатели (PSB) связаны правилом «пурды» (запрета на освещение политики во время голосования). Это создает среду, в которой вводящая в заблуждение информация может циркулировать без обычных средств противодействия со стороны государственных вещателей. Эффективность и актуальность политики «пурды» необходимо переоценить с учетом меняющегося медиа-ландшафта.

Политические партии в Великобритании были осторожны в использовании ИИ-технологий для избирательных материалов. Хотя рутинные задачи, такие как сбор средств по электронной почте, могут быть поручены ботам на базе ИИ, все еще существует нежелание полагаться на них для более важных кампаний. Отсутствие у ИИ-ботов культурного понимания и местных знаний может привести к ошибкам, теряющим голоса. Политические партии отдают приоритет осторожности, чтобы не оттолкнуть свою электоральную базу и непреднамеренно не подорвать свои кампании.

Технологии генеративного ИИ предоставляют возможности активистам и даже недобросовестным государствам влиять на выборы в Великобритании. Социальные платформы, такие как Twitter, могут испытать всплеск невежливого дискурса и преследований, направленных на политических кандидатов. Отсутствие серьезных последствий для тех, кто преследует такие цели, может еще больше усугубить проблему. Регуляторы, такие как Ofcom, должны тщательно рассмотреть последствия участия новых телеканалов новостей в проведении избирательных дебатов, обеспечивая при этом, чтобы основные вещатели продолжали предоставлять нейтральную платформу для политических дискуссий.

Экспоненциальный рост ИИ-чатботов и появление новых телеканалов имеют значительные последствия для будущих выборов. Распространение дезинформации через генеративный ИИ представляет серьезную угрозу потоку фактической информации. Потенциальное влияние ложных изображений и вокальной мимики, генерируемых инструментами ИИ, еще больше усложняет проблему. Крайне важно, чтобы непредвзятые источники новостей оставались непоколебимыми в предоставлении надежной информации для противодействия влиянию развивающихся технологий. Регуляторы и правительства должны оперативно решать эти проблемы, защищая целостность демократических процессов и обеспечивая достоверность информации в избирательных кампаниях.