Новый инструмент может защитить создателей изображений от искусственного интеллекта

Группа разработчиков во главе с профессором Чикагского университета Беном Чжао представила новый инструмент под названием «Nightshade», призванный помочь цифровым художникам защитить свои работы от копирования и использования в обучении алгоритмов искусственного интеллекта.

Nightshade может стать решением кошмара художников, связанного с искусственным интеллектом

В последние месяцы генераторы произведений искусства на основе искусственного интеллекта стали все более совершенными и теперь способны создавать изображения, которые практически невозможно отличить от произведений искусства, созданных человеком. 

Хотя некоторые люди получают выгоду от изображений, созданных с помощью ИИ, сами художники обеспокоены тем, что их работы эксплуатируются и обесцениваются инструментами ИИ, а также другими нарушениями авторских прав и прав интеллектуальной собственности. 

В августе три цифровых художника подали иск против компаний, занимающихся обработкой изображений с помощью ИИ, — Stability AI, Midjourney и DeviantArt, — требуя возмещения ущерба и судебного запрета на использование работ художников без их согласия.

Художники жаловались, что компании нарушили их права, а также права миллионов других художников, чьи работы были скопированы и использованы в алгоритмах искусственного интеллекта для создания производных произведений, которые теперь конкурируют с оригиналами. 

Проект Nightshade, хотя и находится ещё в разработке, может стать решением этой проблемы. 

Как действует паслен?

Согласно сообщениям, программное обеспечение делает изображения непригодными для обучения моделей ИИ, внося лишь незначительные изменения в пиксели изображений. Эти изменения настолько малы, что невидимы для человеческого глаза, но достаточно эффективны, чтобы заставить алгоритмы ИИ полностью неправильноdentобъект. 

Например, изображение кошки, обработанное с помощью Nightshade, может быть ошибочно интерпретировано алгоритмом ИИ как изображение собаки. Наличие таких модифицированных изображений в библиотеках изображений ИИ может значительно ухудшить результаты работы или производительность генераторов изображений ИИ.

Цель состоит в том, чтобы предотвратить несанкционированное использование художественных изображений компаниями, занимающимися искусственным интеллектом, для обучения алгоритмов ИИ, а также воспрепятствовать использованию генераторов изображений ИИ для создания поддельных изображений и пиратских произведений искусства.

В этом отношении некоторые компании начинают внедрять меры, помогающие людям отличать подделки от произведений искусства, созданных человеком. 

Ранее в этом месяце Cryptopolitan сообщило , что компания OpenAI, разработчик ChatGPT, создает новый инструмент, способный с точностью до 99% отличать изображения, созданные с помощью ИИ, от реальных. Инструмент все еще проходит внутреннее тестирование перед запланированным публичным релизом.