Американская компания Lingo Telecom грозит штраф в размере 1 миллиона долларов за ИИ-робозвонки с голосом Байдена

Lingo Telecom, американский провайдер голосовых услуг, согласился выплатить 1 миллион долларов в рамках урегулирования спора с Федеральной комиссией по связи (FCC). Компания обвинялась в содействии распространению ИИ-робозвонков, влиявших на избирателей на праймериз в Нью-Гэмпшире в 2024 году. 

21 января 2024 года многие жители Нью-Гэмпшира подверглись запугиванию через телефонные звонки с голосом, похожим на голос президента Джо Байдена. Автоматизированные звонки предупреждали абонентов о том, что участие в президентских праймериз в штате приведет к лишению их права голоса на всеобщих выборах в ноябре. Голос был записан с использованием поддельного глубокого голоса, имитирующего Джо Байдена с помощью алгоритма глубокого обучения. 

Lingo Telecom грозит штраф и меры по соблюдению требований

Операцию проводил политический стратег Стив Крамер, который заявил, что целью не было влияние на выборы, а демонстрация потенциальной опасности ИИ. Однако действия Крамера могли иметь негативные последствия, предоставив избирателям ложную информацию и создав угрозу для честности выборов. Технология Lingo Telecom использовалась в этом процессе, поскольку она обеспечивала доставку сообщений целевой аудитории. 

В рамках урегулирования Lingo Telecom должна выплатить 1 миллион долларов в качестве гражданского штрафа, хотя FCC изначально требовала от компании 2 миллиона долларов. Компании также предписано внедрить надежную программу комплаенса, включающую соблюдение фреймворка аутентификации Caller ID STIR/SHAKEN FCC.

Этот фреймворк направлен на решение проблемы подмены Caller ID. Именно он использовался в кампании робозвонков, чтобы звонки выглядели так, будто они исходят от других легитимных номеров. 

FCC также подчеркнула, что это урегулирование имеет ключевое значение для отправки сильного сигнала другим компаниям, участвующим в подобных действиях или содействующим им. Lingo Telecom, приняв урегулирование, резко раскритиковала действия FCC, заявив, что регулятор пытается вводить новые правила задним числом.

Официальное лицо FCC подчеркивает опасность клонирования голоса ИИ на выборах

Лояан Эгаль, глава Бюро правоприменения FCC, отметил, что использование поддельных Caller ID и клонирование голоса с помощью ИИ представляет огромную опасность, особенно в предвыборный период. Эгаль подчеркнул, что эти технологии могут быть использованы государственными акторами в политических целях или иностранными субъектами для вмешательства в политические процессы страны.

Стив Крамер, политический консультант, организовавший робозвонки, сталкивается с еще более серьезными последствиями. FCC предложила наложить штраф в размере 6 миллионов долларов на Крамера, который также может получить до семи лет тюремного заключения по обвинению в подавлении избирательных прав.

 Кроме того, Крамеру может быть назначено наказание в виде одного года лишения свободы за мошенничество с подменой личности политического кандидата. Обвинения демонстрируют, как власти относятся к этому делу, рассматривая его как яркий пример рисков, связанных с использованием ИИ в политике. 

Роберт Вайсман, сопрезидент некоммерческой организации Public Citizen, приветствовал действия FCC в данном случае, заявив, что дипфейки представляют «экзистенциальную угрозу для нашей демократии».