Председатель FCC предлагает новый закон, запрещающий голоса, сгенерированные ИИ

В недавнем развитии событий Джессика Розенворсель, председатель Комиссии по связи США (FCC), предложила классифицировать звонки с голосами, сгенерированными искусственным интеллектом (ИИ), как незаконные. Предназначенные регулирование и штрафы будут подпадать под юрисдикцию Закона о защите потребителей при телефонных звонках (TCPA). Эта инициатива председателя FCC последовала за тревожным инцидентом, когда голоса, сгенерированные ИИ, использовались для распространения ложного сообщения, имитирующего голос президента США Джо Байдена.

Председатель FCC предлагает запретить голоса, сгенерированные ИИ

Сфабрикованные сообщения призывали жителей Нью-Гэмпшира не участвовать в первичных выборах в штате, с очевидной целью вмешательства в предстоящие президентские выборы 2024 года. Автоматические звонки с имитацией голоса президента Байдена были быстро отмечены как дезинформация офисом генерального прокурора штата.

В ответ на эскалацию проблемы роботизированных звонков с использованием ИИ, предложение председателя FCC Розенворсель стремитсяInvoke TCPA, закон 1991 года, предназначенный для регулирования автоматических политических и маркетинговых звонков, сделанных без согласия получателя. Основная цель TCPA — защитить потребителей от нежелательных и навязчивых коммуникаций, включая нежелательные звонки маркетологов и автоматические сообщения.

Распространенность таких звонков значительно возросла в последние годы, поскольку технологические достижения позволяют обманчиво имитировать голоса знаменитостей, политических деятелей и даже членов семьи. Если предложение председателя FCC Розенворсель будет принято, это даст генеральным прокурорам штатов по всей стране дополнительные инструменты для преследования тех, кто стоит за этими злонамеренными роботизированными звонками, и обеспечения правовых последствий.

Инициатива этой председательницы FCC следует за Уведомлением о запросе информации агентства в ноябре 2023 года, которое искало информацию о борьбе с незаконными роботизированными звонками и потенциальном участии ИИ. Запрос углубился в роль ИИ в мошенничестве, имитации голосов и в том, должен ли он регулироваться в рамках TCPA. Кроме того, председатель FCC отметила, что фирма стремится собрать знания о том, как ИИ может быть использован позитивно, особенно в распознавании и предотвращении незаконных роботизированных звонков.

Ландшафт ИИ и законодательные ответы

В более широком масштабе Белый дом выпустил информационный лист, outlining ключевые действия по ИИ 29 января, через три месяца после исполнительного указа президента Байдена по ИИ. Информационный лист признал «значительный прогресс» в достижении мандата президента «защитить американцев от потенциальных рисков систем ИИ».

Появление дипфейков, контента, сгенерированного ИИ, который может быть крайне обманным, вызвало обеспокоенность. Всемирный экономический форум в своем 19-м отчете о глобальных рисках выделил неблагоприятные последствия, связанные с технологиями ИИ. Обеспокоенность выходит за пределы Соединенных Штатов, так как Служба разведки безопасности Канады, основное национальное разведывательное агентство Канады, выразила обеспокоенность по поводу кампаний дезинформации, использующих дипфейки ИИ в интернете.

Реагируя на более широкие проблемы, posed созданным ИИ контентом, законодатели США призвали к законодательству, криминализующему производство дипфейк-изображений. Этот призыв к действию последовал за широким распространением откровенных фейковых фотографий знаменитостей, таких как Тейлор Свифт. Пересечение ИИ и технологий коммуникации поднимает сложные вызовы, требующие баланса между инновациями и регулированием.

По мере того как ИИ продолжает развиваться, политики, регуляторы и правоохранительные органы сталкиваются с задачей адаптации правовых рамок для решения потенциального злоупотребления этими технологиями. Предложение классифицировать звонки с голосами, сгенерированными ИИ, как незаконные в рамках существующего законодательства, представляет собой проактивный шаг в решении растущих проблем, связанных с обманными роботизированными звонками и более широкими последствиями ИИ в коммуникациях.