Уже более недели пользователи перегружают серверы OpenAI, пытаясь использовать последнее обновление ChatGPT, в котором появился инструмент для генерации изображений, вызвавший настоящий ажиотаж в интернете: превращение селфи в иллюстрации в стиле студии Ghibli.
Instagram, Reddit, Discord, Facebook, X — повсюду висят созданные с помощью ИИ портреты пар, домов, воспоминаний об отдыхе и даже исторических событиях. Но когда все веселье позади, безопасно ли «гиблификировать» свои фотографии? Некоторые аналитики говорят, что нет.
Существуют серьезные опасения по поводу нарушения авторских прав , конфиденциальности данных и этики искусственного интеллекта со стороны ChatGPT, но в случае с Ghibli есть одна главная проблема: методы обеспечения безопасности данных.
Сэм Альтман и его команда довольно сдержанно рассказывают о том, как им удалось обучить чат-бота создавать изображения настолько качественно и за считанные минуты. Эксперты по вопросам конфиденциальности предупреждают, что миллионы людей неосознанно передают свои биометрические данные компании OpenAI, которую уже критиковали за методы работы с данными.
Все используют арты Ghibli из ChatGPT, так что это безопасно, верно?
На прошлой неделе OpenAI расширила возможности генерации изображений в ChatGPT, позволив пользователям создавать изображения в различных художественных стилях. Пользователи сети быстро оценили фильтр в стиле Ghibli, который превращал обычные фотографии и селфи в иллюстрации, похожие на аниме.
Генеральный директор OpenAI Сэм Альтман, глава Tesla Илон Маск, высшее руководство Ripple опубликовали в социальных сетях свои собственные версии изображений в стиле Ghibli, так что, пожалуй, можно сказать, что это безопасно.
Альтман утверждал, что задания, связанные с иллюстрациями Ghibli, сильно нагрузили вычислительные ресурсы компании, признав в сообщении от 27 марта на X, что графические процессоры OpenAI «перегревались» под нагрузкой.
Очень здорово видеть, как людям нравятся изображения в ChatGPT.
— Сэм Альтман (@sama) 27 марта 2025 г
Но наши видеокарты перегреваются.
Мы временно введем некоторые ограничения на количество запросов, пока работаем над повышением эффективности. Надеемся, это ненадолго!
В скором времени бесплатный тариф ChatGPT будет получать 3 генерации в день.
Компания сообщила, что только тренд, связанный с Ghibli, привлек 1 миллион новых регистраций. Этот взрыв интереса — именно то, на что надеется OpenAI: больше пользователей означает больше данных, что в конечном итоге приносит пользу обучению ИИ. Происходит ли это за счет персональных данных? Трудно сказать «да», но мы, очевидно, не настолько наивны, чтобы сказать «нет».
Некоторые пользователи экспериментировали с воссозданием исторических моментов в стиле студии Ghibli, таких как убийство Джона Ф. Кеннеди и теракт 11 сентября. Даже Белый дом подключился к этому, опубликовав созданную с помощью ИИ версию известного изображения плачущей женщины, которую арестовывает сотрудник иммиграционной и таможенной службы.
https://t.co/PVdINmsHXs pic.twitter.com/Bw5YUCI2xL
— Белый дом (@WhiteHouse) 27 марта 2025 г
Это забавная тенденция, и мы не собираемся тушить пожар, когда все ищут повод для улыбки. Но изменение и стилизация исторических изображений — это скользкая дорожка, открывающая шлюзы для безудержного превосходства и вульгарных тенденций в развитии искусства.
Этично ли создавать произведения искусства с помощью ИИ?
Модели искусственного интеллекта обучаются на огромных массивах данных, собранных из интернета, и это, defi, включает в себя произведения, защищенные авторским правом. Наибольшее беспокойство у художников и творцов вызывает то, что ИИ может отнять у них работу. Если модель сможет создать результат, аналогичный результату автора, незаконно получив копию его работы, то дальше всё пойдёт наперекосяк.
«Авторы и художники все больше возмущаются масштабными кражами, которые происходят в настоящее время», — заявил Эд Ньютон-Рекс, генеральный директор некоммерческой компании Fairly Trained, занимающейся обучением искусственному интеллекту.
Студия Ghibli никогда не давала разрешения на использование своего художественного стиля для контента, созданного с помощью ИИ, учитывая хорошо задокументированное презрение сооснователя Хаяо Миядзаки к использованию ИИ в искусстве.
В ставшем теперь знаменитым интервью 2016 года Миядзаки с отвращением отреагировал на анимацию, созданную искусственным интеллектом, заявив: «Тот, кто это создает, понятия не имеет, что такое боль. Я испытываю глубокое отвращение… Яtronубежден, что это оскорбление самой жизни»
Тенденция в стиле студии Ghibli — это именно тот вид коммерциализации искусства с помощью ИИ, который он ненавидел. Так почему же OpenAI, кажется, проявляет снисходительность в своей политике в отношении создания изображений в художественных стилях? Они просто открывают шлюзы для воссоздания ИИ произведений, защищенных авторским правом.
Риски для конфиденциальности, связанные с «гиблификацией» вашего селфи
Прежде чем получить селфи в стиле Ghibl, вам нужно загрузить указанные личные фотографии в ChatGPT. Вы задумывались о том, что можете неосознанно предоставить OpenAI право использовать оба изображения для будущего обучения модели? Если это так, есть ли явный способ отказаться от этого? Вряд ли большинство людей об этом задумывались.
Рэйчел Тобак, генеральный директор SocialProof Security, заявила, что большинство людей могут предполагать, что загруженные ими изображения исчезают после использования, но ChatGPT, возможно, вместо этого сохранит их и включит в будущие модели ИИ. «Если вы хотите сохранить право собственности на фотографию, превращение её в объект Ghibl — не лучший вариант», — предположила она.
29 марта в ветке обсуждения Луиза Яровски, соучредитель aitechprivacy.com, объяснила, что согласно европейскому законодательству о защите данных (в частности, статье 6.1.a GDPR), пользователи, добровольно загружающие свои изображения, дают законное согласие на их обработку компанией OpenAI.
«Тысячи людей добровольно загружают свои лица и личные фотографии на ChatGPT. В результате OpenAI получает бесплатный и легкий доступ к тысячам новых лиц для обучения своих моделей искусственного интеллекта», — написала она.
Компания OpenAI пока не сделала официального заявления по поводу проблем конфиденциальности, но настаивает на том, что конфиденциальность и безопасность являются одними из ее главных приоритетов. В понедельник представитель компании заявил, что OpenAI сводит к минимуму сбор личной информации и не запрашивает личные данные пользователей для обучения своих моделей.
Они также утверждали, что пользователи могут контролировать использование своих данных с помощью инструментов самообслуживания, а также удалять свой контент или отказываться от улучшений модели.
Сбор данных: это правда или ложь?
Некоторые пользователи сети считают, что тренд, связанный с фильмами студии Ghibli, — это «одна из самых масштабных и скрытых схем сбора данных о лицах в истории». Другой пользователь предупредил, что миллиарды людей «неосознанно вошли в свои аккаунты, непреднамеренно передав данные распознавания лиц системам, работающим на основе искусственного интеллекта»
Как же люди этого не понимают?
— विक्रमादित्य शिवम चौहान (@chau_vik1947) 2 апреля 2025 г
Они просто попали в ловушку моды, отдавая свои данные распознавания лиц искусственному интеллекту, даже не задумываясь о том, какой вред это может им причинить, и при этом чуть ли не каждый день жалуются на нарушение конфиденциальности.
Тем не менее, не все разделяют эти опасения. Инженер по кибербезопасности на X опроверг эти опасения, заявив, что модели ИИ не хранят данные изображений после завершения непосредственного процесса преобразования.
«Искусственный интеллект пока не хранит данные изображений, поэтому изображения, которые мы используем для фильмов студии Ghibli или любых других преобразований, БЕЗОПАСНЫ», — написали они. В качестве дополнительной меры предосторожности они рекомендовали очистить кэш-файлы, но опровергли утверждения о том, что ИИ может восстановить изображения до их исходного состояния для использования в любых своих обучающих программах.
Искусственный интеллект пока не хранит данные изображений, поэтому фотографии, которые мы используем для Ghibli или любых других преобразований, БЕЗОПАСНЫ.
— Джухи Джайн (@juhijain199) 2 апреля 2025 г
Тем не менее, для большей безопасности следует очистить кэш.
Также я видел много роликов, в которых говорится, что мы можем перевернуть изображения, поэтому НЕТ, ИИ не сможет превратить Ghibli в оригинальное изображение... #Ghibli pic.twitter.com/fd0k9zVLqR
Другие теоретики утверждают, что генерация изображений с помощью ИИ не более инвазивна, чем существующие облачные хранилища. «Забавно, как люди беспокоятся о том, что студия Ghibli может злоупотреблять нашими данными, как будто облачное хранилище, в котором хранятся все наши фотографии, чем-то безопаснее. Ха-ха», — прокомментировал один из пользователей.
Тренд на селфи в стиле «Гибли» на самом деле скрывает за собой опасения по поводу нарушения авторских прав, этики искусственного интеллекта и конфиденциальности данных. Если ChatGPT сохранит какие-либо фотографии и информацию, которыми делятся пользователи, достаточно одного взлома сервера и программы для обратного преобразования изображений, чтобы ваша личная жизнь оказалась в открытом доступе в интернете.
Стоит ли безумие анимированных изображений, созданных искусственным интеллектом, того, чтобы жертвовать своими личными данными? Возможно, да, но гораздо безопаснее дважды подумать, чем вы делитесь с любым чат-ботом.
