새로운 도구가 이미지 제작자를 AI로부터 보호할 수 있을 것 같습니다

시카고 대학교의 벤 자오 교수가 이끄는 개발팀이 디지털 아티스트들이 자신의 작품이 인공지능 알고리즘 학습에 이용되는 것을 막기 위해 '나이트셰이드(Nightshade)'라는 새로운 도구를 개발했습니다.

나이트셰이드가 AI로 인한 예술가들의 악몽에 대한 해결책이 될 수 있을지도 모릅니다

최근 몇 달 동안 인공지능 예술 생성기는 점점 더 정교해져서 이제는 인간이 만든 예술 작품과 거의 구별하기 어려운 이미지를 만들어낼 수 있게 되었습니다. 

인공지능이 생성한 이미지가 일부 사람들에게는 이익이 되지만, 예술가들은 자신들의 작품이 인공지능 도구에 의해 악용되고 가치가 하락하는 것을 비롯해 저작권 및 지적 재산권 침해 문제에 대해 우려하고 있습니다. 

지난 8월, 디지털 아티스트 3명이 AI 이미지 회사인 Stability AI, Midjourney, DeviantArt를 상대로 소송을 제기하여 손해 배상과 함께 해당 회사들이 아티스트의 작품을 동의 없이 이용하는 것을 금지하는 법원 명령을 요구했습니다.

예술가들은 해당 기업들이 자신들의 권리뿐만 아니라 수백만 명의 다른 예술가들의 권리도 침해했다고 항의했습니다. 그들의 작품이 무단으로 수집되어 AI 알고리즘에 입력되어 원작과 경쟁하는 파생 작품이 만들어졌다는 것입니다. 

아직 개발 중이긴 하지만, 나이트셰이드는 이 악몽에 대한 해결책이 될 수 있을 것이다. 

가지과는 어떻게 작용할까요?

보도에 따르면, 해당 소프트웨어는 이미지의 픽셀에 아주 미세한 변화를 주는 것만으로 AI 모델 학습에 사용할 수 없는 이미지를 만들어냅니다. 이러한 변화는 사람의 눈에는 보이지 않을 정도로 작지만, AI 알고리즘이 대상을 완전히dent하게 만들 만큼 효과적입니다. 

예를 들어, 나이트셰이드(Kithames)로 변형된 고양이 이미지는 AI 알고리즘에 의해 개 이미지로 잘못 인식될 수 있습니다. 이처럼 변형된 이미지가 AI 이미지 라이브러리에 존재하면 AI 이미지 생성기의 출력이나 성능이 크게 저하될 수 있습니다.

목표는 AI 기업들이 허가 없이 예술적 이미지를 AI 알고리즘에 입력하는 것을 방지하고, AI 이미지 생성기가 가짜 이미지나 불법 복제 예술품을 만드는 데 사용되는 것을 막는 것입니다.

이와 관련하여 일부 기업들은 사람들이 가짜 예술품과 인공 예술품을 구별할 수 있도록 돕는 조치를 시행하기 시작했습니다. 

이달 초, Cryptopolitan 보도했습니다 챗GPT를 개발한 오픈AI가 AI 이미지와 실제 이미지를 99% 정확도로 구분할 수 있는 새로운 도구를 개발 중이라고