Meta оказалась в центре скандала с несанкционированным созданием флиртующего чат-бота женских знаменитостей

Meta снова подверглась критике, так как недавние выводы, опубликованные Reuters, показывают, что ее инструменты искусственного интеллекта позволили создавать дипфейк-изображения и чат-боты, имитирующие популярных знаменитостей, таких как Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селена Гомес, без их согласия.

Расследование выявило, что большинство ботов были созданы пользователями через платформу чат-ботов Meta AI. Однако несколько из них были созданы внутренне сотрудником Meta.

Некоторые аккаунты пародийных чат-ботов Тейлор Свифт утверждали, что они являются настоящей певицей, и часто делали флиртующие намеки и предлагали встречи.

Отчеты возлагают вину на Meta в скандале с флиртующими аватарами

Reuters сообщил, что несколько недель тестирования показали, что чат-боты знаменитостей, доступные на платформах Meta Facebook, Instagram и WhatsApp, иногда выходили далеко за рамки игривого общения. Пользователи просили их создавать фотореалистичные изображения звезд в нижнем белье, позирующих в ваннах, и даже намекающих на интимные встречи.

Одно тревожное открытие заключалось в создании чат-бота Уокера Скобелла, 16-летнего актера. Когда его попросили прислать фото на пляже, бот сгенерировал реалистичное изображение подростка без рубашки с подписью: «Мило, правда?»

Meta не единственная, сталкивающаяся с проверкой. xAI Илона Маска также подверглась критике за то, что позволила пользователям генерировать дипфейк-изображения знаменитостей в нижнем белье.

Представитель Meta Энди Стоун признал неудачи, сказав, что инструменты компании не должны были генерировать ни интимные изображения взрослых знаменитостей, ни какой-либо сексуализированный материал, связанный с несовершеннолетними.

«Как и другие, мы разрешаем генерацию изображений, содержащих публичных фигур, но наши политики предназначены для запрета нагого, интимного или сексуально откровенного изображения», — сказал он Reuters. Он добавил, что изображения в нижнем белье отражают неудачи в соблюдении политики компании.

Правила Meta запрещают «прямую имитацию», но компания утверждала, что пародийные боты допустимы, если они четко помечены. Однако Reuters обнаружил, что некоторые аватары не имели никаких дисклеймеров. Meta удалила около дюжины таких ботов, как пародийных, так и немаркированных, незадолго до публикации отчета Reuters. Компания отказалась комментировать удаления.

Вопросы безопасности ИИ могут привести к регуляторному давлению

После отчета Meta заявила, что внедрит новые меры защиты, направленные на защиту подростков, включая ограничение доступа молодежи к определенным ИИ-персонажам и переобучение своих моделей для снижения неуместных тем.

Генеральный прокурор Калифорнии Роб Бонта выпустил предупреждение для сектора, сказав: «Подвергать детей воздействию сексуализированного контента неприемлемо».

В одном трагическом случае в начале этого месяца 76-летний мужчина с когнитивными нарушениями в Нью-Джерси умер после попытки встретиться с чат-ботом Meta, которого он считал реальной женщиной. Критики говорят, что такие случаи подчеркивают опасность развертывания крупномасштабных ИИ-инструментов без надлежащих защитных мер.

Юристы предупреждают, что Meta может столкнуться со значительными проблемами в рамках существующих законов об интеллектуальной собственности и праве на публичность. Марк Лемли, профессор права Стэнфордского университета, сказал, что закон Калифорнии о «праве на публичность» запрещает использование имени или внешности человека в коммерческих целях без согласия.

«Это не соответствует действительности», — сказал он, отметив, что боты просто копировали изображения знаменитостей, а не создавали трансформативные произведения.