Британская организация по наблюдению за выборами предупреждает о своей беспомощности перед дипфейками, созданными с помощью искусственного интеллекта

Британский орган по контролю за выборами забил тревогу, заявив о своей неспособности бороться с контентом, созданным с помощью технологии «дипфейк», что делает Великобританию уязвимой для деструктивного влияния сгенерированных искусственным интеллектом фейковых видеороликов с участием политиков на предстоящих выборах.

Британский орган по контролю за выборами выступил с резким предупреждением, продемонстрировав свою некомпетентность в борьбе с растущей угрозой «дипфейков». Это тревожное откровение показывает уязвимость страны перед потенциальной манипуляцией избирательными процессами с помощью поддельных видеороликов, созданных с помощью искусственного интеллекта.

Эксперты в области искусственного интеллекта предупреждают, что на предстоящие выборы в Великобритании могут повлиять убедительные аудио- и видеозаписи политических деятелей, созданные с помощью ИИ методом «дипфейк». Эта технология представляет собой серьезный риск для целостности демократических процессов.

Недавниеdentс дипфейками

В последние месяцы участились случаи создания убедительных дипфейков с помощью искусственного интеллекта, нацеленных на политических деятелей, в частности, на членов Лейбористской партии. В начале октября аккаунт в Twitter/X опубликовал аудиозапись, на которой, как казалось, лидер лейбористов сэр Кир Стармер делает уничижительные замечания в адрес сотрудников своей партии. За этим последовал дипфейк-аудиоклип, на котором мэр Лондона от Лейбористской партии Садик Хан, по всей видимости, проявляет неуважение к памятным мероприятиям.

Правовой статус дипфейк-видео и аудио с участием политических деятелей остается неопределенным. Хотя это потенциально может подпадать под новые меры по борьбе со злонамеренными коммуникациями в соответствии с Законом о безопасности в Интернете, власти сталкиваются с трудностями в борьбе с таким контентом. В частности, столичная полиция прекратила расследование в отношении дипфейка Садика Хана, сославшись на то, что он не является уголовным преступлением

Опасения по поводу распространения дезинформации с помощью искусственного интеллекта

Эксперты выражают опасения, что созданные с помощью ИИ фейковые видеоролики с участием политиков могут быстро распространиться в преддверии следующих выборов. Простота и низкая стоимость создания убедительных фейковых видеороликов с участием общественных деятелей, говорящих или совершающих скандальные поступки, сделали подобное вмешательство все более доступным. Многие эксперты в этой области предполагают, что враждебно настроенные государственные субъекты могут использовать новые технологии для влияния на выборы в Великобритании и подрыва демократического процесса.

Начиная с ноября 2023 года, агитационные материалы должны содержать «оттиск», указывающий на издателя определенного политического контента в интернете. Однако нет обязанности раскрывать, создан ли контент с помощью ИИ, и Избирательная комиссия не имеет полномочий налагать санкции или удалять дезинформацию. Хотя Ofcom обладает большими регулирующими полномочиями в этой области, правовая база, касающаяся политической дезинформации, созданной с помощью ИИ, и дипфейков, остается неоднозначной.

Ограниченные полномочия Избирательной комиссии

Избирательная комиссия уточнила свою роль в борьбе с дипфейками и контентом агитационных материалов, заявив, что она в первую очередь отвечает за регулирование финансирования партий и агитаторов, а также за обеспечение соблюдения требований к цифровому имиджу. Хотя Комиссия признает проблемы, создаваемые контентом, сгенерированным искусственным интеллектом, она не обладает юрисдикцией для непосредственной борьбы с проблемами, связанными с дипфейками.

Комиссия активно сотрудничает с партнерами и другими регулирующими органами, чтобы лучше понять возможности и проблемы, которые представляет технология искусственного интеллекта на выборах. Она также призывает избирателей критически оценивать информацию в интернете и предлагает рекомендации поdentфейковых новостей, а также направляет обращения в соответствующие регулирующие органы.

Призывы к усилению регулирующих полномочий

Признавая ограничения действующих правил, Избирательная комиссия выступает за то, чтобы правительство Великобритании расширило полномочия британских регулирующих органов, включая саму Комиссию. В частности, Комиссия добивается расширения полномочий по получению информации от платформ социальных сетей, технологических компаний и поставщиков онлайн-платежей. Эта инициатива направлена ​​наdentисточников финансирования кампаний по распространению политической дезинформации, что является критически важным аспектом проблемы.

Ответы технологических гигантов

Издание Byline Times обратилось к нескольким технологическим гигантам с просьбой рассказать об их политике и мерах по борьбе с вредоносными политическими дипфейками. Например, TikTok заявил, что запрещает любую политическую рекламу и требует четкого раскрытия информации о синтетических медиа или манипулированном контенте, представляющем реалистичные сцены. TikTok также придерживается строгой политики в отношении дезинформации.

Google/Alphabet подчеркнули свои постоянные усилия по борьбе с дезинформацией и эксперименты с технологией водяных знаков для обозначения контента, созданного искусственным интеллектом. Google анонсировали SynthID, инструмент для встраивания незаметных цифровых водяных знаков в изображения, созданные ИИ, для проверки их подлинности.

Google также отметила свой прогресс в обнаружении синтезированной речи с точностью почти 99% и объявила о планах обновления своей политики в отношении политического контента. Это обновление потребует от проверенных рекламодателей, размещающих рекламу на выборах, четко указывать наличие синтезированного контента в своих объявлениях, включая изображения, видео и аудио.

YouTube, принадлежащий Google, придерживается строгой политики в отношении «технически обработанного контента», который вводит зрителей в заблуждение и представляет опасность причинения серьезного вреда. YouTube также потребует от создателей контента сообщать о случаях, когда они создают измененный или синтетический контент, который выглядит реалистично.

Проблемы и риски, связанные с дезинформацией, генерируемой искусственным интеллектом

Основной риск, связанный с созданным с помощью ИИ контентом типа «дипфейк», заключается в создании убедительных видеороликов, изображающих события, которых никогда не было, или людей, говорящих и делающих то, чего они никогда не делали. Этот риск становится особенно актуальным в контексте избирательных кампаний, где общественное мнение может быть подвержено влиянию подобного вводящего в заблуждение контента.

Ответы Meta/Facebook и Twitter

Компания Meta/Facebook не ответила на запросы относительно своей политики и мер по борьбе с политическими дипфейками. Компания Twitter/X ответила автоматическим сообщением, не предоставив никаких дополнительных подробностей о своей позиции или действиях по этому вопросу.

Поскольку угроза создания дипфейков с помощью искусственного интеллекта нависла над демократическими процессами Великобритании, страна сталкивается с важнейшей задачей эффективного регулирования и борьбы с распространением этого вводящего в заблуждение контента. Участие технологических гигантов в реализации мер по противодействию дипфейкам подчеркивает неотложность решения этой проблемы для защиты целостности выборов и демократического диалога.