새로운 도구 'Nightshade'가 AI 텍스트-이미지 기술에 도전

OpenAI의 ChatGPT와 같은 생성형 AI 기술은 자연어 처리 분야에서 상당한 진전을 이루었습니다. 그러나 이러한 AI 모델은 웹에서 스크랩된 방대한 데이터 세트에 의존하며, 이는 작업이 허가 없이 또는 보상 없이 사용되는 예술가 및 사진가들 사이에서 우려를 불러일으킵니다.

예술가 및 사진가 vs. 생성형 AI

생성형 AI 도구는 텍스트 프롬프트에서 이미지를 생성할 수 있지만, 훈련을 위해 온라인에서 스크랩된 이미지에 의존합니다. 이로 인해 예술가 및 사진가들은 자신의 창작물이 동의 없이 사용되는 것에 대해 불만을 표명하고 있으며, 지적 재산권 보호 방법을 모색하고 있습니다.

Nightshade: AI 모델을 혼란스럽게 하는 도구

연구팀들은 이 문제를 해결하기 위해 'Nightshade'라는 도구를 개발했습니다. Nightshade는 웹에 업로드되기 전에 예술 작품에 보이지 않는 픽셀을 도입하여 AI 훈련 모델을 방해하도록 설계되었습니다. 이 과정은 훈련 데이터를 '독살'하여 AI 모델이 프롬프트에 대해 부정확한 이미지를 생성하도록 만듭니다.

AI 모델에 대한 함의

MIT Technology Review는 Nightshade의 사용이 DALL-E, Midjourney, Stable Diffusion과 같은 이미지 생성 AI 모델의 향후 버전에 잠재적으로 손상을 줄 수 있다고 보고합니다. 이러한 모델은 개가 고양이가 되고, 차가 소가 되는 등 부정확한 출력을 생성할 수 있습니다. Nightshade에 대한 연구는 그 중요성을 강조하기 위해 동료 검토를 위해 제출되었습니다.

힘의 균형: 예술가 vs. 기술 기업

Nightshade는 자신의 창작물을 보호하려는 예술가들에게 희망의 빛을 제공합니다. 연구팀을 이끌었던 시카고 대학교의 Ben Zhao 교수는 이 도구가 힘의 균형을 콘텐츠 제작자 쪽으로 다시 이동시킬 수 있다고 제안합니다. 이는 저작권 및 지적 재산권을 무시하는 기술 기업들에게 경고 역할을 합니다.

문제의 규모

대규모 AI 모델은 수십억 개의 이미지로 구성된 데이터 세트를 사용하므로, 독살된 이미지의 영향은 상당합니다. 이러한 모델에 통합되는 독살된 이미지가 많을수록 더 큰 혼란을 초래하여 AI 환경을 재편할 수 있습니다.

오픈 소스 협력 및 윤리적 사용

Nightshade를 개발한 팀은 이를 오픈 소스 도구로 출시하여 다른 사람들이 그 효과를 개선하고 향상시킬 수 있도록 초대할 계획입니다. 그들은 Nightshade가 자신의 권리를 무시하는 웹 스크래퍼와 대면하는 콘텐츠 제작자를 위한 마지막 수단으로 간주되어야 한다고 강조합니다.

예술가의 권리 보호의 어려움

DALL-E의 제작자인 OpenAI는 최근 예술가들이 자신의 작업을 훈련 데이터에서 제거할 수 있도록 허용하기 시작했습니다. 그러나 이 과정은 예술가가 제거하려는 각 이미지에 대해 개별 요청을 제출해야 하므로 부담스럽다는 비판을 받았습니다. 이 제거 과정을 단순화하면 예술가들이 장기적으로 AI 개발자에게 영향을 미칠 수 있는 Nightshade와 같은 도구에 의존하는 것을 피할 수 있을 것입니다.

지적재산권 보호를 추구하는 아티스트와 모델을 학습하는 AI 개발자 간의 갈등이 심화됨에 따라, 나이트쉐이드(Nightshade)와 같은 도구는 콘텐츠 크리에이터에게 중요한 무기가 될 수 있습니다. 인공지능의 진화하는 환경에서 AI의 윤리적 사용과 저작권에 대한 존중은 점점 더 중요해지고 있습니다.