Новый инструмент может защитить создателей изображений от искусственного интеллекта
Группа разработчиков во главе с профессором Чикагского университета Беном Чжао представила новый инструмент под названием «Nightshade», призванный помочь цифровым художникам защитить свои работы от копирования и использования в обучении алгоритмов искусственного интеллекта.
Nightshade может стать решением кошмара художников, связанного с искусственным интеллектом
В последние месяцы генераторы произведений искусства на основе искусственного интеллекта стали все более совершенными и теперь способны создавать изображения, которые практически невозможно отличить от произведений искусства, созданных человеком.
Хотя некоторые люди получают выгоду от изображений, созданных с помощью ИИ, сами художники обеспокоены тем, что их работы эксплуатируются и обесцениваются инструментами ИИ, а также другими нарушениями авторских прав и прав интеллектуальной собственности.
В августе три цифровых художника подали иск против компаний, занимающихся обработкой изображений с помощью ИИ, — Stability AI, Midjourney и DeviantArt, — требуя возмещения ущерба и судебного запрета на использование работ художников без их согласия.
Художники жаловались, что компании нарушили их права, а также права миллионов других художников, чьи работы были скопированы и использованы в алгоритмах искусственного интеллекта для создания производных произведений, которые теперь конкурируют с оригиналами.
Проект Nightshade, хотя и находится ещё в разработке, может стать решением этой проблемы.
Как действует паслен?
Согласно сообщениям, программное обеспечение делает изображения непригодными для обучения моделей ИИ, внося лишь незначительные изменения в пиксели изображений. Эти изменения настолько малы, что невидимы для человеческого глаза, но достаточно эффективны, чтобы заставить алгоритмы ИИ полностью неправильноdentобъект.
Например, изображение кошки, обработанное с помощью Nightshade, может быть ошибочно интерпретировано алгоритмом ИИ как изображение собаки. Наличие таких модифицированных изображений в библиотеках изображений ИИ может значительно ухудшить результаты работы или производительность генераторов изображений ИИ.
Цель состоит в том, чтобы предотвратить несанкционированное использование художественных изображений компаниями, занимающимися искусственным интеллектом, для обучения алгоритмов ИИ, а также воспрепятствовать использованию генераторов изображений ИИ для создания поддельных изображений и пиратских произведений искусства.
В этом отношении некоторые компании начинают внедрять меры, помогающие людям отличать подделки от произведений искусства, созданных человеком.
Ранее в этом месяце Cryptopolitan сообщило , что компания OpenAI, разработчик ChatGPT, создает новый инструмент, способный с точностью до 99% отличать изображения, созданные с помощью ИИ, от реальных. Инструмент все еще проходит внутреннее тестирование перед запланированным публичным релизом.
