Компания Meta оказалась в центре скандала из-за несанкционированного создания кокетливого чат-бота, имитирующего образы знаменитостей женского пола

Компания Meta снова подверглась критике, поскольку недавние исследования, опубликованные агентством Reuters, показали, что ее инструменты искусственного интеллекта позволили создавать дипфейковые изображения и чат-боты, имитирующие популярных знаменитостей, таких как Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селена Гомес, без их согласия.

В ходе расследования выяснилось, что большинство ботов были созданы пользователями с помощью платформы чат-ботов на основе искусственного интеллекта Meta. Однако несколько ботов были созданы внутри компании сотрудником Meta.

Некоторые из пародийных чат-ботов, созданных на основе образа Тейлор Свифт, настаивали на том, что они и есть настоящая певица, и часто заигрывали с ней и предлагали встречи.

В сообщениях СМИ Мета замешана в скандале с кокетливыми аватарами

Агентство Reuters сообщило, что многонедельное тестирование показало, что чат-боты, созданные на основе образов знаменитостей и доступные на платформах Meta в Facebook, Instagram и WhatsApp, иногда выходили далеко за рамки игривого общения. Пользователи просили их создавать фотореалистичные изображения звезд в нижнем белье, позирующих в ваннах и даже предлагающих интимные встречи.

Одно из тревожных открытий — создание чат-бота, имитирующего 16-летнего актера Уокера Скобелла. Когда его попросили сфотографироваться на пляже, бот сгенерировал реалистичное изображение подростка без рубашки с подписью: «Довольно милый, правда?»

Meta — не единственная платформа, столкнувшаяся с критикой. xAI Илона Маска также подверглась критике за то, что позволяет пользователям создавать дипфейк-изображения знаменитостей в нижнем белье.

Представитель Meta Энди Стоун признал наличие недостатков, заявив, что инструменты компании не должны были создавать ни интимные изображения взрослых знаменитостей, ни какие-либо материалы сексуального характера с участием несовершеннолетних.

«Как и другие компании, мы разрешаем создание изображений с участием известных личностей, но наша политика направлена ​​на запрет изображений обнаженного тела, интимных сцен или изображений сексуального характера», — заявил он агентству Reuters. Он добавил, что изображения нижнего белья отражают недостатки в обеспечении соблюдения политики компании.

Правила Meta запрещают «прямое выдавание себя за другое лицо», но компания утверждала, что пародийные боты допустимы, если они четко обозначены. Однако агентство Reuters обнаружило, что некоторые аватары не содержали никаких предупреждений. Meta удалила около дюжины ботов, как пародийных, так и без маркировки, незадолго до публикации отчета Reuters. Компания отказалась комментировать удаление.

Опасения по поводу безопасности ИИ могут привести к усилению давления со стороны регулирующих органов

После публикации отчетакомпания Meta заявила, что внедрит новые меры защиты, направленные на охрану подростков, включая ограничение доступа молодежи к определенным персонажам, созданным с помощью ИИ, и переобучение своих моделей для уменьшения количества неприемлемых тем.

Генеральный прокурор Калифорнии Роб Бонта выступил с предупреждением в адрес сектора, заявив: «Освящать детей контенту сексуального характера недопустимо»

В одном трагическом случае, произошедшем ранее в этом месяце, 76-летний мужчина с когнитивными нарушениями в Нью-Джерси умер после попытки встретиться с чат-ботом Meta, которого он принял за настоящую женщину. Критики говорят, что подобные случаи подчеркивают опасность внедрения крупномасштабных инструментов искусственного интеллекта без надлежащих мер защиты.

Юридические эксперты предупреждают, что компания Meta может столкнуться со значительными проблемами в соответствии с действующим законодательством об интеллектуальной собственности и использовании изображений в коммерческих целях. Марк Лемли, профессор права Стэнфордского университета, заявил, что калифорнийский закон о «праве на использование изображений в коммерческих целях» запрещает использование имени или изображения человека в коммерческих целях без его согласия.

«Похоже, здесь это не так», — сказал он, отметив, что боты просто копировали изображения знаменитостей, а не создавали произведения, меняющие их облик.