AI 표절은 예술가들에게 위협인가? 글레이즈와 SynthID 가 해답 제시

아티스트들 사이에서 AI 표절이 창의적 영역으로 침투한다는 우려가 커짐에 따라, 시카고 대학교의 컴퓨터 과학자 팀은 글레이즈(Glaze) 프로그램을 공개했습니다. 

AI 생성 표절로부터의 방패로 설계된 글레이즈는 혁신적인 기술을 사용하여 이미지를 “은폐”하여 AI 도구가 아티스트의 고유한 스타일을 복제하려는 시도에 저항하도록 만듭니다. 이 획기적인 발전은 아티스트의 정서적, 재정적 안녕을 보호하고, 기술이 지배하는 시대에 창의적 산업의 지속적인 활력을 보장하는 것을 목표로 합니다.

글레이즈는 아티스트의 고유한 스타일을 AI 표절로부터 보호합니다

생성형 AI가 아티스트의 생계를 위협하고 창의적 산업을 낙담시킬 수 있는 시대에, 글레이즈 프로그램은 희망의 등불로 등장합니다. 뉴바워 컴퓨터 과학 교수인 벤 자오(Ben Zhao)와 헤더 정(Heather Zheng)이 구상한 글레이즈는 아티스트를 위해 특별히 설계된 기술적 방어 메커니즘입니다. 

자오의 성명에 따르면, 이 기술이 아티스트에게 미치는 정서적 및 재정적 영향은 의심할 여지 없이 큽니다. 자오는 학생들이 업계 내 전망 부족으로 인해 예술 수업을 포기하는 것을 목격한 교육자들과 대화했다고 밝혔습니다. 또한, 전문 아티스트들은 자신의 예술 스타일이 허가 없이 복제되는 것에 대해 우려를 표명했으며, 이는 해당 보호 도구의 시급한 필요성을 나타냅니다.

팀의 이전 작품인 포크스(Fawkes)는 개인 사진을 은폐하여 얼굴 인식 모델을 무력화하는 것으로 명성을 얻었지만, 아티스트의 고유한 스타일을 보호하는 미묘한 작업에는 충분하지 않았습니다. 얼굴과 달리 아티스트의 스타일은 색상 선택과 붓질 등 쉽게 위장하기 어려운 복잡한 세부 사항을 포함합니다. 이러한 도전을 해결하기 위해 자오와 정이 이끄는 SAND Labs는 생성형 AI 예술 모델에 사용되는 기술과 유사한 스타일 전송(Style Transfer) 알고리즘을 고안했습니다. 이후 이 알고리즘은 글레이즈 프로그램에 통합되었습니다.

글레이즈는 먼저 스타일 전송 알고리즘을 사용하여 이미지를 은폐하고, 콘텐츠는 변경하지 않은 채 특정 예술 테마로 변환합니다. 변환이 완료되면 글레이즈는 원래 이미지에서 변경된 고유한 특성을 식별하고 이러한 특성을 미묘하게 왜곡합니다. 그런 다음 변경된 이미지가 AI 예술 생성기로 전송되며, 이는 원래 예술 작품의 무결성을 보존하면서 눈에 띄는 변경 사항을 거의 또는 전혀 남기지 않습니다.

구글의 SynthID는 디지털 영역에서 예술적 서명을 보존합니다

글레이즈가 이미지를 은폐하여 보호를 제공하는 반면, 구글은 디지털 예술 작품의 진위성을 보호하기 위한 대안 접근 방식인 SynthID를 공개했습니다. SynthID는 디지털 이미지에 인간의 눈에는 보이지 않는 워터마크를 도입하여 디지털 서명처럼 작동합니다. 이 워터마크는 잘라내기나 필터 적용과 같은 일반적인 편집 기술을 사용하더라도 감지 가능합니다.

구글의 딥마인드 연구 책임자인 푸시미트 코흘리(Pushmeet Kohli)는 SynthID의 변경이 미묘하며 이러한 수정 사항은 인간의 눈에는 보이지 않는다고 강조했습니다. 그는 색상 변경, 대비 수정 또는 크기 조정과 같은 일반적인 조정이 이미지에 적용되더라도 SynthID는 예술 작품이 AI에 의해 생성되었음을 식별하는 능력을 유지한다고 설명했습니다. 본질적으로 SynthID는 디지털 조작이 가해지더라도 아티스트의 서명이 온전하게 유지되도록 보장합니다.

구글 딥마인드(Google DeepMind)의 데모 영상은 “SynthID를 사용하면 사용자는 이미지에 워터마크를 추가할 수 있으며, 이는 인간의 눈에는 보이지 않습니다”라고 설명합니다. 구글 클라우드에 따르면, 이는 AI 생성 사진을 윤리적으로 제작하고 확신 있게 식별하기 위한 도구를 제공한 최초의 클라우드 서비스 제공업체였습니다. 또한, 구글은 SynthID를 다양한 AI 모델을 수용하도록 확장하여 더 넓은 채택과 시간이 지남에 따라 시스템의 효과성을 개선할 잠재력을 계획하고 있습니다.

생성형 인공지능의 지속적인 확장은 특히 아티스트들 사이에서 창의적 커뮤니티 내에서 우려를 불러일으켰습니다. 시카고 대학교의 컴퓨터 과학자들이 개발한 글레이즈 프로그램과 구글의 SynthID는 아티스트의 고유한 스타일과 디지털 예술 작품을 보호하기 위해 서로 다르지만 상호 보완적인 접근 방식을 제공합니다. 글레이즈는 스타일 전송 알고리즘으로 이미지를 은폐하는 방식으로 작동하는 반면, SynthID는 예술적 서명을 보존하기 위해 눈에 보이지 않는 워터마크를 도입합니다. 이러한 기술 혁신은 점점 더 AI 중심적인 세계에서 자신의 창의적 노력을 보호하려는 아티스트들에게 희망의 빛을 제공하며, 이들의 지속적인 발전은 전체 창의적 산업을 강화할 약속을 담고 있습니다.