Илон Маск поделился противоречивым видео Камалы Харрис, измененным с помощью ИИ

Генеральный директор Tesla Илон Маск подвергся критике за публикацию измененного видео с участием вице-президента Камалы Харрис. Видео, изначально опубликованное ютубером г-ном Рейганом, использует аудио, сгенерированное искусственным интеллектом, для создания ложного нарратива о кампании Харрис.

Новое видео содержит фрагменты последнего рекламного ролика кампании Камалы Харрис, но с закадровым голосом, который звучит так, будто Харрис высмеивает Джо Байдена и себя. В оригинальном видео на YouTube Харрис дает комментарии и начинает петь песню Бейонсе «Freedom». 

С другой стороны, в манипулированном видео звучит голос, похожий на голос Харрис, говорящий: «Я, Камала Харрис, я ваш демократический кандидат в президенты, потому что Джо Байден наконец проявил свою деменцию в дебатах».

Закадровый голос продолжает утверждать, что Харрис, вероятно, наняли из-за ее принадлежности к меньшинствам, и подразумевает, что критика в ее адрес была бы сексистской и расистской. Также высмеивается ее манера речи, утверждая, что она «пытается быть черной» и имитирует «Баракa Обаму».

Кампания Харрис реагирует на критику и защищает свои цели

Некоторые республиканские комментаторы недавно называли Харрис «кандидатом DEI», подразумевая, что ее раса и пол стали решающими факторами для выдвижения. В ответ представитель кампании Харрис Миа Эренберг раскритиковал Маска и бывшего президента, заявив, что народ Соединенных Штатов хочет настоящей свободы, возможностей и защиты, которые Харрис хочет им предоставить, а не фейковых новостей. 

В ответ на критику и предложения сделать подобные манипуляции незаконными, Маск оправдал свои действия. Он процитировал вымышленного персонажа профессора Саггона Дизнатца, заявив, что пародия по-прежнему законна в Соединенных Штатах. 

Оригинальный пост г-на Рейгана набрал 18 миллионов просмотров, в то время как репост Маска, который не содержал дисклеймера о пародии и имел лишь подпись «Потрясающе», получил более 130 миллионов просмотров.

Сгенерированные ИИ фейковые новости становятся глобальной проблемой на выборах

Инцидент демонстрирует растущие опасения по поводу злоупотребления искусственным интеллектом. Ханни Фарид, компьютерный ученый из Калифорнийского университета в Беркли, заявил, что, хотя сгенерированный ИИ голос был высокого качества, его беспокоит возможное злоупотребление им. Он отметил, что, несмотря на то, что многие могут не думать, что голос действительно принадлежит Харрис, использование ее голоса в видео является довольно мощным инструментом.

Сенатор Эми Клобухар также присоединилась к дебатам, заявив, что если Маск и X не будут маркировать манипулированный контент, они нарушат политику X, и манипуляции с контентом с помощью ИИ возрастут в период выборов.

Сгенерированные ИИ фейковые новости не ограничиваются Соединенными Штатами. Фейковые новости создавались с помощью технологии глубоких подделок по всему миру, случаи были зафиксированы в Словакии и Индии. 

Измененный голосовой контент также использовался в президентской кампании ранее, например, в робозвонке, которая обманула публику, выдавая себя за Байдена, и отговаривала избирателей голосовать на праймериз в Нью-Гэмпшире.