Инструмент обнаружения изображений OpenAI показывает многообещающие результаты, но сталкивается с проблемами
- OpenAI запустила инструмент для выявления сгенерированных ИИ изображений в рамках борьбы с угрозами глубоких подделок.
- Детектор определяет 98% изображений модели DALL-E 3, но не обнаруживает те, что были изменены.
- OpenAI планирует усовершенствовать инструмент, проводя эксперименты и сотрудничая с внешними исследователями.
Изображения, созданные ИИ, могут обмануть вас, заставив воспринимать поддельный контент как оригинальный. Именно поэтому OpenAI, разработчик ChatGPT, создал инструмент , который может определить, является ли изображение результатом работы DALL-E 3, алгоритма генерации изображений, который они разработали.
Во вторник OpenAI предоставила пользователям первый шанс протестировать инструмент обнаружения изображений, состоящий из базовых и настроенных моделей. Цель заключается в привлечении независимых исследователей для изучения опасений, полезности, способов применения и факторов, которые могут вызывать контент, сгенерированный ИИ.
Успешность инструмента и тестирование
OpenAI протестировала инструмент внутри компании, и в некоторых аспектах результаты были обнадеживающими, а с другой стороны — очень разочаровывающими. Оценка изображений, созданных DALL-E 3, дала правильные результаты в 98% случаев. Кроме того, при анализе изображений, не созданных DALL-E 3, система ошибочно приписывала их DALL-E 3 только в 0,5% случаев.
OpenAI не обнаружила изменений в изображении с незначительными отличиями. Внутренняя команда протестировала инструмент, сжав, обрезав и изменив насыщенность изображения, созданного DALL-E 3, и наблюдала, что инструмент все еще способен достигать хорошего уровня успешности.
Вызовы и ограничения
К сожалению, инструмент не был очень эффективен с изображениями, которые подверглись обширной обработке. Формулировки в статье OpenAI неясны относительно того, сколько изменений они внесли в случаях, которые они описывают, и они говорят, что «другие модификации могут снизить производительность».
В интервью The Wall Street Journal исследователь Сандхини Агарвал заявила, что инструмент менее эффективен в ситуациях, таких как изменение оттенка изображения, и что требуется подписка. Как упомянула Агарвал, для решения этих проблем OpenAI привлечет внешних тестировщиков к системе.
Более того, внутреннее тестирование также поставило под вопрос способность инструмента анализировать изображения, созданные с помощью моделей ИИ других компаний. В таких ситуациях инструмент OpenAI мог распознать только 5% или 10% изображений, созданных моделями, отличными от его собственной. Такие модификации изображений, как переключение оттенков, также значительно снижали эффективность, сообщила Агарвал журналу.
Изображения, созданные ИИ, не только искусственны, но и создают проблемы в этот избирательный год. Обиженные группы, как внутри страны, так и за ее пределами, могут легко использовать такие фотографии, чтобы испортить репутацию политика-кандидата или дела, которое продвигается. В настоящее время, когда генераторы ИИ-изображений продолжают развиваться, грань между реальностью и фантазией становится сложнее различить, чем когда-либо.
Принятие в отрасли
С другой стороны, OpenAI стремится добавлять водяные знаки в метаданные ИИ-изображений по мере того, как компании становятся участниками Организации пользовательской ценности (UVG). C2PA принадлежит к инициативе технологической отрасли, которая предлагает технические стандарты для раскрытия источника контента и его подлинности в процессе, известном как водяные знаки. Гигант Facebook Meta заявил в начале этого месяца, что ее ИИ будет помечен в соответствии со стандартом C2PA, начиная с мая.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
