AI로 생성된 테일러 스위프트 이미지에 홀린 스위프티들이 주방용품 사기에 휘말렸다

최근 테일러 스위프트의 팬들, 일명 스위프티들이 사기성 다단계 사기에 휘말리는 사건이 발생했습니다. 이 사기는 인공지능으로 생성된 테일러 스위프트가 등장하는 딥페이크 영상을 이용해 르크루제 조리도구 경품 행사를 허위로 홍보하는 방식이었습니다.

딥페이크 유명인 광고의 매력

놀라울 정도로 사실적인 딥페이크 영상에는 스위프트와 닮은 AI 모델이 다음과 같이 말하는 모습이 담겨 있었습니다 

"안녕하세요, 테일러 스위프트입니다. 포장 오류 때문에 르크루제 조리도구 세트 3,000개를 판매할 수 없게 되어, 저의 열렬한 팬 여러분께 무료로 드리려고 합니다." 

이 가짜 광고는 스위프트가 자신이 좋아하는 브랜드를 홍보하는 것을 좋아하는 것으로 잘 알려진 점을 악용한 것입니다. 이는 그녀의 소셜 미디어와 다큐멘터리 출연을 통해dent 드러난 특징입니다. 영상에서 스위프트의 모습을 교묘하게 사용한 덕분에 많은 팬들이 속아 넘어가 경품 증정이 진짜라고 믿게 되었습니다.

르크루제와 페이스북의 모회사인 메타는 이러한 사기 행위에 신속하게 대응했습니다. 르크루제는 공식 성명을 통해 해당 광고에 브랜드나 테일러 스위프트가 전혀 관여하지 않았으며, 합법적인 홍보 활동은 공식 채널을 통해서만 진행될 것이라고 밝혔습니다. 메타는 자사 플랫폼에서 해당 사기성 광고를 삭제했다고 확인했습니다.

인공지능 시대의 새로운 과제들

이번dent 은 인공지능 시대에 나타나는 복잡한 상황을 여실히 보여줍니다. 저명한 AI 전문가인 마르바 베일러는 특히 개인과 브랜드의 권리를 침해하는 경우, AI를 활용한 콘텐츠 제작에 따르는 위험과 윤리적 문제점을 지적했습니다. AI 기반 콘텐츠의 손쉬운 제작 및 배포는 오락과 기만적인 상업적 표현 사이의 경계를 모호하게 만들면서 상당한 문제점을 야기합니다.

하루에 수천 건에 달하는 광고가 빠르게 생성되고 소비되는 데다, 사람들의 주의 집중 시간이 점점 짧아지면서 가짜 광고가 소비자 의식 속에 스며들 수 있는 길이 열렸습니다. 이번dent 특히 인공지능(AI)이 콘텐츠를 개인화하고 타겟팅하는 데 점점 더 많이 사용되는 시대에 소비자들이 경각심을 갖고 분별력을 발휘해야 한다는 점을 일깨워주는 교훈적인 사례입니다.