ChatGPT로 셀카를 '지브리 스타일'로 꾸미는 것의 위험성

일주일 넘게 사용자들이 오픈AI의 최신 ChatGPT 업데이트에 포함된 이미지 생성 도구를 사용하기 위해 서버에 접속 폭주를 일으키고 있습니다. 이 도구는 셀카를 스튜디오 지브리 스타일의 일러스트로 바꿔주는 기능으로, 인터넷에서 큰 화제를 불러일으켰습니다. 

인스타그램, 레딧, 디스코드, 페이스북, X 등 모든 곳에 AI가 생성한 커플, 집, 휴가 추억, 심지어 역사적 사건까지 담은 사진들이 넘쳐납니다. 하지만 이런 사진들을 마음껏 즐기고 난 후, 여러분의 사진도 "지브리 스타일"로 꾸미는 것이 안전할까요? 일부 전문가들은 아니라고 말합니다. 

에 대한 심각한 우려가 있지만 저작권 침해, 데이터 개인정보 보호 및 AI 윤리 

샘 알트만과 그의 팀은 챗봇이 이미지를 그토록 깔끔하게, 그것도 단 몇 분 만에 생성하도록 훈련시킨 방법에 대해 함구하고 있습니다. 개인정보보호 전문가들은 수백만 명의 사람들이 자신도 모르게 생체 정보를 오픈AI에 제공하고 있다고 경고하는데, 오픈AI는 이미 데이터 처리 방식으로 비판을 받은 바 있습니다.

다들 ChatGPT에서 지브리 그림을 사용하니까 안전한 거겠죠?

지난주, OpenAI는 ChatGPT의 이미지 생성 기능을 확장하여 사용자들이 다양한 예술적 스타일의 이미지를 만들 수 있도록 했습니다. 네티즌들이 가장 먼저 관심을 보인 것은 평범한 사진과 셀카를 애니메이션풍 일러스트로 바꿔주는 지브리 스타일 필터였습니다. 

오픈AI CEO 샘 알트만, 테슬라 CEO 일론 머스크, Ripple 랩 고위 임원진을 비롯한 여러 임원들이 게시했으므로 소셜 미디어에 지브리 스타일의 이미지를 직접 

알트만은 지브리 미술 관련 과제들이 회사의 컴퓨팅 자원에 상당한 부담을 주었다고 주장하며, 3월 27일 X에 올린 글에서 오픈아이얼의 GPU가 수요 때문에 "녹아내릴 지경"이었다고 인정했습니다.

chatgpt에서 사람들이 이미지를 좋아하는 모습을 보는 건 정말 즐거운 일이지만

, 저희 GPU가 과부하 상태입니다.

효율성을 높이기 위한 작업을 진행하는 동안 일시적으로 처리량 제한을 적용할 예정입니다. 곧 해결될 테니 너무 오래 걸리지는 않을 거예요!

chatgpt 무료 티어는 곧 하루 3세대 처리가 가능해질 겁니다.

— 샘 알트만 (@sama) 2025년 3월 27일

회사 측은 지브리 트렌드 덕분에 신규 가입자가 100만 명이나 늘었다고 밝혔습니다. 이러한 폭발적인 관심은 오픈아이(OpenAI)가 바라는 바입니다. 사용자가 많아질수록 데이터도 많아지고, 이는 결국 AI 학습에 도움이 되기 때문입니다. 그렇다면 이러한 과정이 개인 정보 유출을 수반하는 것일까요? 단정적으로 말하기는 어렵지만, 그렇다고 단정 지을 만큼 순진하지는 않습니다.

일부 사용자들은 존 F. 케네디 암살 사건이나 9·11 테러 공격과 같은 역사적 순간들을 지브리 스타일로 재현하는 실험을 했습니다. 심지어 백악관까지 참여하여 이민세관집행국(ICE) 직원에게 체포되는 여성의 모습을 담은 유명한 이미지를 AI로 재현한 버전을 게시했습니다. 

https://t.co/PVdINmsHXs pic.twitter.com/Bw5YUCI2xL

— 백악관 (@WhiteHouse) 2025년 3월 27일

재미있는 트렌드이긴 하지만, 모두가 웃을 이유를 찾고 있는 이 시기에 우리가 굳이 불을 끄려 할 필요는 없겠죠. 하지만 역사적 이미지를 변형하고 스타일링하는 것은 통제되지 않은 우월주의와 저속한 예술 작품 발전 경향을 부추기는 위험한 발상입니다.  

인공지능이 생성한 예술은 윤리적인가?

AI 모델은 인터넷에서 수집한 방대한 양의 데이터를 기반으로 학습되는데, 여기에는 저작권이 있는 저작물도 거의 defi없이 포함됩니다. 예술가와 창작자들이 가장 걱정하는 것은 AI가 자신들의 일자리를 빼앗는 것입니다. 만약 AI 모델이 불법적으로 저작물을 복제한 후 창작자의 작품과 유사한 결과물을 만들어낼 수 있다면, 그 이후로는 모든 것이 내리막길로 향할 것입니다.

비영리 AI 교육 회사인 Fairly Trained의 CEO인 에드 뉴턴-렉스는 "작가와 예술가들은 대규모 도용 행위에 점점 더 분노하고 있습니다."라고 말했습니다.

스튜디오 지브리는 공동 설립자인 하야오 미야자키가 예술 분야에서 인공지능을 경멸해 온 것으로 잘 알려져 있기 때문에, 인공지능이 생성한 콘텐츠에 자사의 예술적 스타일을 사용하는 것을 허가한 적이 없습니다. 

2016년의 유명한 인터뷰에서 미야자키는 AI가 생성한 애니메이션에 대해 혐오감을 드러내며 "이런 걸 만드는 사람은 고통이 뭔지 전혀 모르는 사람이다. 정말 역겹다… 이건 삶 자체에 대한 모욕이라고 생각한다"라고tron

지브리 스타일 트렌드는 그가 혐오했던 바로 그런 AI 기반 예술 상품화의 전형적인 사례입니다. 그렇다면 오픈AI는 왜 예술적 스타일로 이미지를 생성하는 것에 대해 관대한 정책을 보이는 걸까요? 이는 저작권이 있는 작품을 AI가 무분별하게 복제하는 것을 사실상 방치하는 행위입니다.

셀카를 '지브리 스타일'로 꾸미는 것의 개인정보 보호 위험성

지브리 스타일로 보정된 셀카를 얻으려면 먼저 해당 개인 사진을 ChatGPT에 업로드해야 합니다. 이 과정에서 자신도 모르게 OpenAI가 두 이미지 모두를 향후 모델 학습에 사용할 수 있도록 허용하는 것일 수 있다는 점을 생각해 보셨나요? 만약 그렇다면, 명시적으로 거부할 수 있는 방법이 있을까요? 아마 대부분의 사람들은 이런 점들을 고려하지 않았을 겁니다.

소셜프루프 시큐리티의 CEO인 레이첼 토박은 대부분의 사람들이 업로드한 이미지가 사용 후 사라진다고 생각하지만, ChatGPT는 오히려 이미지를 보존하고 향후 AI 모델에 활용할 수 있다고 말했습니다. 그녀는 "사진의 소유권을 유지하고 싶다면 지브리 스타일로 바꾸는 것은 좋은 방법이 아니다"라고 추측했습니다.

3월 29일, aitechprivacy.com의 공동 창립자인 루이자 야로프스키는 X 스레드유럽 데이터 보호법(특히 GDPR 제6조 1항 a호)에 따라 사용자가 자발적으로 이미지를 업로드하는 경우 OpenAI가 해당 이미지를 처리하는 데 법적 동의를 제공하는 것이라고 설명했습니다. 

"수천 명의 사람들이 자발적으로 ChatGPT에 자신의 얼굴과 개인 사진을 업로드하고 있습니다. 그 결과, OpenAI는 AI 모델 학습에 사용할 수 있는 수천 개의 새로운 얼굴 데이터를 무료로 손쉽게 확보하고 있습니다."라고 그녀는 썼습니다.

오픈아이(OpenAI)는 개인정보 보호 문제에 대한 공식적인 입장을 아직 발표하지 않았지만, 개인정보 보호와 보안이 최우선 과제라고 강조하고 있습니다. 월요일, 회사 대변인은 오픈아이가 개인정보 수집을 최소화하고 모델 학습을 위해 사용자의 개인 데이터를 수집하지 않는다고 밝혔습니다. 

또한 사용자들은 셀프 서비스 도구를 통해 데이터 사용 방식을 제어할 수 있으며, 콘텐츠를 삭제하거나 모델 개선에서 제외될 수도 있다고 주장했습니다.

데이터 수집: 참인가 거짓인가?

일부 네티즌들은 지브리 열풍이 "역대 최대 규모이자 가장 은밀한 얼굴 데이터 수집 계획 중 하나"라고 주장했습니다. 또 다른 네티즌은 수십억 명의 사람들이 "자신도 모르게 계정에 로그인하여 인공지능 기반 시스템에 얼굴 인식 데이터를 제공했다"고 경고했습니다

도대체 왜 사람들은 이걸 깨닫지 못하는 걸까요?
그저 유행에 휩쓸려 얼굴 인식 데이터를 AI에 넘겨주면서 그로 인해 어떤 피해가 발생할지 생각조차 하지 않고, 그러면서도 매일같이 사생활 침해를 외치고 있습니다.

— 비크라마디티 쉬빔 추한(@chau_vik1947) 2025년 4월 2일

하지만 모든 사람이 이러한 우려에 동의하는 것은 아닙니다. X의 한 사이버 엔지니어는 AI 모델이 변환 과정 이후에는 이미지 데이터를 저장하지 않는다고 주장하며 이러한 우려에 반박했습니다. 

"현재 AI는 이미지 데이터 정보를 저장하지 않으므로, 지브리 애니메이션이나 다른 어떤 변환 작업에도 사용되는 이미지는 안전합니다."라고 그들은 밝혔습니다. 추가적인 예방 조치로 캐시 파일을 삭제할 것을 권장했지만, AI가 이미지를 역분석하여 원래 형태로 복원한 후 학습에 사용할 수 있다는 주장은 반박했습니다.

현재 AI는 이미지 데이터 정보를 저장하지 않으므로 지브리 작품이나 다른 이미지 변환에 사용되는 사진은 안전합니다.

하지만 안전을 위해 캐시를 삭제하는 것이 좋습니다.

또한 이미지를 반전시킬 수 있다는 릴 영상도 많이 봤으니 AI가 지브리 작품을 원본 이미지로 바꾸는 일은 없을 겁니다. #지브리 pic.twitter.com/fd0k9zVLqR

— 주히 (@juhijain199) 2025년 4월 2일

다른 이론가들은 AI 이미지 생성이 기존 클라우드 저장 서비스보다 더 사생활 침해적인 것은 아니라고 주장합니다. 한 사용자는 "지브리 스튜디오가 우리의 데이터를 오용할까 봐 걱정하는 사람들이 웃기네요. 마치 우리 사진이 저장된 클라우드 저장소가 더 안전한 것처럼 말이죠. ㅋㅋㅋ"라고 댓글을 달았습니다.

'지브리 스타일 셀카' 트렌드는 표면적으로는 유명해 보이지만, 그 이면에는 저작권 침해, AI 윤리, 데이터 프라이버시에 대한 우려가 숨어 있습니다. ChatGPT가 사용자들이 공유한 사진과 정보를 보관하고 있다면, 서버 해킹 한 번과 이미지 반전 소프트웨어만으로도 개인 정보가 인터넷에 공개될 수 있습니다.

인공지능이 생성한 애니메이션 예술 작품에 대한 열광이 개인 정보 유출이라는 대가를 치를 만한 가치가 있을까요? 어쩌면 그럴 수도 있겠지만, 챗봇과 무엇을 공유하기 전에 두 번 생각하는 것이 훨씬 안전합니다.