Meta удаляет инструмент Instagram для обработки изображений с помощью ИИ, проверяя пределы возможностей сбора данных о сходстве с помощью ИИ

Всего через три дня после запуска Meta удалила функцию Instagram, которая позволяла пользователям использовать ИИ для создания изображений на основе фотографий профилей других пользователей. Решение компании удалить эту функцию свидетельствует о растущей обеспокоенности по поводу согласия и использования изображений в эпоху искусственного интеллекта.

Функция обратнойtracстала первым шагом назад в попытках Meta догнать OpenAI и Google в области генеративного ИИ. Хотя модель изображений Muse по-прежнему доступна, компания отказалась от возможности создания изображений на основе общедоступных профилей Instagram в запросах на генерацию изображений после критики со стороны создателей контента, исполнителей и защитников конфиденциальности.

Что создала компания Meta и от чего она отказалась

компания Meta представила Muse Image , заявив, что новый инструмент для генерации изображений на основе искусственного интеллекта является первым продуктом лаборатории Superintelligence Lab под руководством Александра Вана. Новая технология позволяет применять 30 эффектов в Instagram и, согласно внутренним тестам Meta, превосходит Google Nano Banana 2, уступая лишь генератору изображений ChatGPT.

Спор касался не самой модели, а того, как она обрабатывала изображения, загруженные пользователями. Отмечая свой общедоступный аккаунт в Instagram, пользователи могли использовать общедоступные изображения из этого аккаунта в фотографиях, созданных искусственным интеллектом. Пользователи младше 18 лет и владельцы закрытых аккаунтов были исключены из системы, в то время как общедоступные аккаунты для взрослыхmaticдобавлялись, если пользователи не отключали эту функцию вручную.

По данным Meta, цель этой функции заключалась в том, чтобы дать пользователям «контроль над тем, могут ли их общедоступные материалы быть использованы в качестве ссылок». Однако многие критики считают прямо противоположное: внедрение системы отказа означает предположение, что согласие дается по умолчанию.

В результате к пятнице компания передумала.

Представитель Meta заявил изданию Variety: «Мы получили отзывы о том, что эта функция не оправдала ожиданий, поэтому она больше недоступна».

Создатели и группы по обеспечению безопасности вынудили вернуться к прежнемуtrac

Эта функция вызвала критику практически сразу после запуска. Гильдия киноактеров – Американская федерация теле- и радиоартистов (SAG-AFTRA) посоветовала своим членам отключить эту функцию, предупредив артистов «принять меры для защиты своего изображения»

Агентство по поиску талантов Creative Artists Agency, LLC (CAA), представляющее интересы Тома Хэнкса и Мерил Стрип, среди прочих, заявило, что находится в прямом контакте с Meta и подчеркнуло, что система искусственного интеллекта никогда не должна использовать имена, изображения, сходства и голоса людей без их явного согласия.

Между тем, защитники конфиденциальности предупредили, что эта технология может облегчить выдачу себя за другое лицо, распространение интимных изображений без согласия и онлайн-мошенничество. Хейли Макнамара из Национального центра по борьбе с сексуальной эксплуатацией заявила в своем интервью изданию The Verge, что идея отказа отдельных лиц от участия перекладывает ответственность с компании на пользователей технологии.

Этот спор высвечивает юридическую борьбу по поводу использования изображений, созданных искусственным интеллектом

Этот спор поднимает более широкий вопрос, стоящий перед индустрией ИИ: дает ли публичная публикация фотографии компаниям право использовать ее для генеративного ИИ?

Эта тема все больше перекликается с европейским законодательством о защите персональных данных. Общий регламент по защите данных (GDPR) defiизображения людей как персональные данные, а это значит, что организациям необходимо найти правовое основание для обработки таких данных в соответствии со статьей 6.

В статье 7 говорится, что если необходимо получить согласие человека, оно должно быть добровольным, конкретным и осознанным. Статья 9 уточняет, что обработка биометрических данных должна предусматривать большую ответственность для однозначнойdentчеловека. Статьи 12-14 также указывают, что организации должны описывать порядок использования персональной информации, чтобы люди были лучше осведомлены о ее применении.

Регуляторы также расширяют сферу своего внимания за пределы традиционных правил конфиденциальности. Закон ЕС об искусственном интеллекте требует от поставщиков услуг информировать общественность о том, был ли контент создан или дополнен с использованием технологий искусственного интеллекта, таких как дипфейки. Цель этого требования — обеспечить прозрачность в отношении синтетического контента, а не полностью запрещать использование этого типа технологий.

Но Meta — не единственная компания, столкнувшаяся с этой проблемой. Всего несколько месяцев назад OpenAI была вынуждена удалить аналогичную опцию отказа от использования общедоступных изображений в своей видеомодели Sora из-за негативной реакции на использование таких изображений.

Эти меры подтверждают, что разработчики технологий искусственного интеллекта сталкиваются с более серьезными проблемами из-за того, что регулирующие органы и создатели уделяют больше внимания обеспечению однозначного согласия перед манипулированием чьим-либо изображением.

Обсуждение этого вопроса уже перешло в сферу законодательства. В Калифорнии приняты два законопроекта, AB 2602 и AB 1836, требующие получения разрешения перед коммерческим использованием сгенерированного искусственным интеллектом изображения живого или умершего артиста.

Хотя эти законы, возможно, больше касаются соглашений в сфере развлечений, чем применимости ИИ в потребительском секторе, они, тем не менее, указывают на тенденцию рассматривать изображения, созданные с помощью ИИ, как нечто, требующее разрешения, а не просто предполагать, что их может использовать кто угодно.

Инвесторов, похоже, вся эта шумиха не затронула. Как сообщалось ранее в Cryptopolitan, акции Meta закрылись на отметке $615,58 в день запуска (7 июля), что на 2,55% выше, чем в предыдущий день, и является самым высоким показателем закрытия за месяц.

Тем не менее, остается вопрос о том, позволяет ли публичное размещение контента пользователям использовать его для разработки ИИ. В самом деле, если недавние решения Meta отражают более широкую тенденцию на рынке ИИ, то простое обнародование чего-либо не дает другим права использовать это в ИИ. В то же время становится ясно, что согласие будет играть важную роль в разработке новых продуктов ИИ для потребителей, поскольку оно все чаще запрашивается как промышленностью, так и государственными организациями.