Новый инструмент «Nightshade» бросает вызов технологиям преобразования текста в изображения с использованием искусственного интеллекта

Технологии генеративного искусственного интеллекта, такие как ChatGPT от OpenAI, значительно продвинулись в обработке естественного языка. Однако эти модели ИИ основаны на огромных массивах данных, собранных из интернета, что вызывает опасения у художников и фотографов, чьи работы используются без разрешения или вознаграждения.

Художники и фотографы против генеративного искусственного интеллекта

Инструменты генеративного ИИ могут создавать изображения на основе текстовых подсказок, но для обучения они используют изображения, собранные в интернете. Это побудило художников и фотографов выразить недовольство тем, что их творческие работы используются без согласия. Они ищут способы защитить свои права на интеллектуальную собственность.

Nightshade: Инструмент для того, чтобы запутать модели искусственного интеллекта

Группа исследователей разработала инструмент под названием «Nightshade» для борьбы с этой проблемой. Nightshade предназначен для нарушения работы обучающих моделей ИИ путем внедрения невидимых пикселей в изображения до их загрузки в интернет. Этот процесс «отравляет» обучающие данные, заставляя модели ИИ генерировать неточные изображения в ответ на запросы.

Последствия для моделей ИИ

Издание MIT Technology Review сообщает, что использование Nightshade потенциально может нанести ущерб будущим версиям моделей искусственного интеллекта для генерации изображений, таких как DALL-E, Midjourney и Stable Diffusion. Эти модели могут выдавать результаты, в которых собаки превращаются в кошек, автомобили — в коров и многое другое. Исследование, лежащее в основе Nightshade, было отправлено на рецензирование, что подчеркивает его значимость.

Баланс сил: художники против технологических компаний

Nightshade вселяет надежду художникам, стремящимся защитить свои творения. Профессор Чикагского университета Бен Чжао, возглавлявший исследовательскую группу, предполагает, что этот инструмент может вернуть баланс сил в руки создателей контента. Он служит предупреждением для технологических компаний, игнорирующих авторские права и права интеллектуальной собственности.

Масштаб проблемы

Крупные модели ИИ используют наборы данных, состоящие из миллиардов изображений, поэтому влияние «отравленных» изображений значительно. Чем больше «отравленных» изображений интегрировано в эти модели, тем сильнее вызванные ими сбои, потенциально способные изменить ландшафт ИИ.

Сотрудничество в сфере открытого исходного кода и этичное использование

Команда разработчиков Nightshade планирует выпустить его как инструмент с открытым исходным кодом, приглашая других дорабатывать и улучшать его эффективность. Они подчеркивают, что Nightshade следует рассматривать как крайнюю меру для создателей контента, сталкивающихся с веб-скрейперами, которые игнорируют их права.

Трудности в защите прав художников

Компания OpenAI, создатель DALL-E, недавно начала разрешать художникам удалять свои работы из обучающих данных. Однако этот процесс подвергся критике как обременительный, поскольку требует от художников подавать отдельные запросы на каждое изображение, которое они хотят удалить. Упрощение этого процесса удаления может отбить у художников желание использовать такие инструменты, как Nightshade, что может иметь долгосрочные последствия для разработчиков ИИ.

По мере обострения борьбы между художниками, стремящимися защитить свои права на интеллектуальную собственность, и разработчиками ИИ, обучающими свои модели, такие инструменты, как Nightshade, могут стать жизненно важным оружием для создателей контента. Этичное использование ИИ и уважение к вопросам авторского права приобретают все большее значение в развивающемся ландшафте искусственного интеллекта.