Новый инструмент «Nightshade» бросает вызов технологиям генерации изображений по тексту на базе ИИ
- «Nightshade» нарушает процесс обучения ИИ, защищая художников от нарушения авторских прав.
- Художники ищут защиту, поскольку модели ИИ используют их работы без согласия.
- Сложный процесс удаления контента в OpenAI стимулирует разработку таких инструментов, как Nightshade.
Технологии генеративного ИИ, такие как ChatGPT от OpenAI, сделали значительные шаги в области обработки естественного языка. Однако эти модели ИИ опираются на огромные наборы данных, собранные из интернета, что вызывает опасения у художников и фотографов, чьи работы используются без разрешения или компенсации.
Художники и фотографы против генеративного ИИ
Инструменты генеративного ИИ могут создавать изображения по текстовым запросам, но они опираются на собранные из интернета изображения для обучения. Это побудило художников и фотографов выразить разочарование по поводу использования их творческих работ без согласия. Они ищут способы защиты своих прав на интеллектуальную собственность.
Nightshade: инструмент для запутывания моделей ИИ
Группа исследователей разработала инструмент под названием «Nightshade» для борьбы с этой проблемой. Nightshade предназначен для нарушения моделей обучения ИИ путем внедрения невидимых пикселей в произведения искусства перед их загрузкой в интернет. Этот процесс «отравляет» обучающие данные, заставляя модели ИИ генерировать неточные изображения в ответ на запросы.
Последствия для моделей ИИ
Nightshade: инструмент для запутывания моделей ИИ
Балансировка власти: художники против технологических компаний
Nightshade дает проблеск надежды художникам, стремящимся защитить свои творения. Профессор Чикагского университета Бен Чжао, возглавлявший исследовательскую группу, предполагает, что этот инструмент может вернуть баланс власти создателям контента. Это служит предупреждением для технологических компаний, игнорирующих авторские права и права на интеллектуальную собственность.
Масштаб проблемы
Крупные модели ИИ используют наборы данных, состоящие из миллиардов изображений, что делает влияние отравленных изображений значительным. Чем больше отравленных изображений интегрировано в эти модели, тем больше сбоев это вызывает, потенциально изменяя ландшафт ИИ.
Открытое сотрудничество и этичное использование
Команда, стоящая за Nightshade, планирует выпустить его как инструмент с открытым исходным кодом, приглашая других дорабатывать и улучшать его эффективность. Они подчеркивают, что Nightshade следует рассматривать как крайнюю меру для создателей контента, сталкивающихся с веб-скрейперами, которые игнорируют их права.
Проблемы защиты прав художников
OpenAI, создатель DALL-E, недавно начал позволять художникам удалять свои работы из своих обучающих данных. Однако этот процесс подвергся критике за бюрократическую нагрузку, требуя от художников подачи индивидуальных запросов для каждого изображения, которое они хотят удалить. Упрощение этого процесса удаления могло бы отговорить художников от использования таких инструментов, как Nightshade, что могло бы иметь долгосрочные последствия для разработчиков ИИ.
По мере обострения битвы между художниками, стремящимися защитить свои права на интеллектуальную собственность, и разработчиками ИИ, обучающими свои модели, такие инструменты, как Nightshade, могут стать жизненно важным оружием для создателей контента. Этичное использование ИИ и уважение к вопросам авторского права становятся все более важными в меняющемся ландшафте искусственного интеллекта.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
