인공지능이 기술 혁신의 한계를 끊임없이 확장하는 시대에, 창작자의 지적 재산권을 보호하기 위해 예술가와 대학 연구진 간의 새로운 협력이 나타나고 있습니다. 미국 일러스트레이터 팔로마 맥클레인이 최근 자신의 작품이 인공지능에 의해 무단 복제된 사건을 계기로, 예술계에서는 적극적인 대응이 이루어졌고, 인공지능 기반 모방 행위를 방지하는 혁신적인 소프트웨어 솔루션이 개발되었습니다.
미국에 거주하는 일러스트레이터 팔로마 맥클레인은 인공지능(AI)의 끊임없는 창작물 복제 시도의 표적이 되었습니다. 여러 AI 모델이 그녀의 동의나 인지 없이 그녀의 작품을 "학습"시켜 사용했고, 이로 인해 그녀는 정당한 저작권 표시나 보상을 받지 못했습니다. 윤리적인 기술 발전을 강력하게 옹호해 온 맥클레인은 다음과 같이 우려를 표명했습니다. "진정으로 의미 있는 기술 발전은 윤리적으로 이루어져야 하며, 타인을 희생시키는 것이 아니라 모든 사람에게 이로운 방향으로 나아가야 한다고 생각합니다."
인공지능 모방 문제가 점점 심각해짐에 따라, 팔로마 맥클레인은 시카고 대학교 연구진이 개발한 혁신적인 무료 소프트웨어인 글레이즈(Glaze)를 활용했습니다. 글레이즈의 주요 기능은 인공지능 모델의 학습 과정을 속이는 것으로, 사람의 눈에는 보이지 않는 미묘한 방식으로 픽셀을 조작하여 디지털화된 예술 작품의 모습을 인공지능 알고리즘에 극적으로 변화시키는 것입니다.
인간 창작물을 보호합니다
글레이즈 개발팀의 핵심 멤버인 벤 자오 교수는 그들의 사명을 강조하며 “기본적으로 우리는 인간 창작자들이 침해적이고 악용적인 AI 모델로부터 보호받을 수 있도록 기술적 도구를 제공하고 있습니다.”라고 말했습니다. 4개월 만에 개발된 이 소프트웨어는 원래 안면 인식 시스템을 무력화하기 위해 설계된 기술을 기반으로 합니다. 자오 교수는 상황의 시급성을 강조하며 “우리는 문제가 심각하다는 것을 알고 있었기 때문에 초고속으로 개발에 착수했습니다. 많은 사람들이 고통받고 있었습니다.”라고 설명했습니다
일부 인공지능(AI) 개발 대기업들은 데이터 사용에 대한 공식적인 계약을 체결하고 있지만, 디지털 이미지, 오디오, 텍스트 등 AI 학습에 사용되는 데이터의 상당 부분은 명시적인 동의 없이 인터넷에서 수집됩니다. 이러한 관행은 AI의 윤리적 사용과 지적 재산권에 대한 중요한 의문을 제기합니다.
2023년 3월 출시 이후 Glaze는 160만 건 이상의 다운로드를 기록하며 널리 사용되기 시작했는데, 이는 AI 복제로부터 예술가를 보호하는 도구의 필요성이 얼마나 시급한지를 보여줍니다. Glaze 팀은 Nightshade라는 향상된 기능을 개발 중인데, 이는 AI의 해석을 왜곡하여 더욱 혼란스럽게 만드는 것을 목표로 합니다. 예를 들어 AI가 개를 고양이로 인식하게 만드는 식입니다.
나이트셰이드를 지지하는 팔로마 맥클레인은 널리 채택될 경우 상당한 영향을 미칠 잠재력을 언급하며, "나이트셰이드 연구에 따르면 생각보다 많은 이미지가 필요하지 않을 수 있다"고 말했습니다. 이미 여러 기업이 자오 팀에 나이트셰이드 사용 가능성을 타진하기 위해 접촉해 왔으며, 이는 개인 예술가와 상당한 지적 재산권을 보유한 단체 모두를 보호하는 데 나이트셰이드의 중요성을 보여줍니다.
Kudurru: 이미지 수집으로부터 방어하기
Viva Voce Startup Spawning은 Kudurru 소프트웨어를 통해 창작물 보호에 기여하고 있습니다. Kudurru는 온라인 소스에서 대용량 이미지를 수집하려는 시도를 감지하여 예술가들이 접근을 차단하거나 AI의 학습 과정을 방해하기 위해 허위 데이터를 제공할 수 있도록 지원합니다. 이미 1,000개 이상의 웹사이트가 Kudurru 네트워크에 통합되었습니다.
Spawning은 haveibeentrained.com 웹사이트를 출시하며 이러한 노력을 확장했습니다. 이 웹사이트에는 아티스트가 자신의 디지털화된 작품이 AI 모델 학습에 사용되었는지 확인할 수 있는 온라인 도구가 있습니다. 이 플랫폼을 통해 아티스트는 향후 무단 사용을 거부할 수 있으며, 창작 콘텐츠에 대한 필수적인 통제권을 확보할 수 있습니다.
미주리주 워싱턴 대학교 연구진은 음성 녹음을 보호하는 소프트웨어인 AntiFake를 개발했습니다. 이 프로그램은 디지털 음성 녹음에 들리지 않는 잡음을 추가하여 "사람의 목소리를 합성하는 것이 불가능하게" 만든다고 이 프로젝트를 이끈 박사dent 학생 지위안 유는 설명합니다. AntiFake의 목표는 무단 AI 학습을 막는 것을 넘어, AI 기반 허위 정보 확산 시대에 점점 더 심각해지는 딥페이크 제작을 방지하는 데까지 확장됩니다.
윤리적인 데이터 사용을 위한 촉구
이러한 소프트웨어 솔루션이 발전함에 따라 AI를 위한 데이터의 윤리적 사용에 대한 논의는 여전히 매우 중요합니다. 스포닝(Spawning)의 공동 창립자인 조던 마이어는 궁극적인 목표를 다음과 같이 밝혔습니다. "최선의 해결책은 AI에 사용되는 모든 데이터가 동의와 비용 지불을 전제로 하는 세상입니다." 지지자들은 개발자들이 AI 데이터 사용에 있어 동의와 공정성을 우선시하도록 유도하는 것을 목표로 하고 있습니다.
결론적으로, 예술가와 연구자 간의 협력은 창작물의 AI 모방에 맞서 싸울 혁신적인 소프트웨어 솔루션 개발을 선도하고 있습니다. Glaze, Nightshade, Kudurru, AntiFake와 같은 소프트웨어 플랫폼은 AI 중심 사회에서 지적 재산권을 보호하는 데 있어 중요한 진전을 보여줍니다. 이러한 기술들은 귀중한 방어 메커니즘을 제공하는 동시에, 인공지능 분야에서 데이터의 윤리적 사용에 대한 보다 폭넓은 논의의 필요성을 강조합니다. 예술가와 창작자들이 계속해서 자신들의 권리를 주장해 나감에 따라, AI와 지적 재산권의 미래는 더욱 윤리적이고 균형 잡힌 방향으로 나아갈 것입니다.
