MrBeast가 딥페이크 사기극을 폭로하다: 틱톡에 아이폰 15 프로 1만 대가 등장

인기 유튜버이자 자선사업가인 미스터비스트가 최근 바이트댄스 산하 틱톡이 딥페이크 영상 유포를 방치한 것에 대해 문제를 제기했습니다. 해당 영상은 AI로 생성된 미스터비스트의 모습을 흉내 내어 아이폰 15 프로 1만 대를 단돈 2달러에 증정하는 대규모 이벤트를 발표하는dent 이었습니다. 이 사건은 소셜 미디어 플랫폼에서 AI 딥페이크 영상이 확산되면서 사용자를 속일 수 있는 위험성이 커지고 있음을 보여줍니다. 이 글에서는 이번 논란의 자세한 내용과 온라인 콘텐츠 진위 여부에 미치는 영향에 대해 살펴보겠습니다.

딥페이크 사기

유명 소셜 미디어 플랫폼인 틱톡은 인공지능으로 제작된 딥페이크 버전의 미스터비스트를 등장시킨 광고를 게재했습니다. 해당 영상에서 가짜 미스터비스트는 아이폰 15를 단돈 2달러에 판매하는 "세계 최대 규모의 아이폰 15 무료 증정 행사"를 진행한다고 주장했습니다. 이처럼 대담한 제안은 미스터비스트가 이전에도 다양한 경품 행사와 콘테스트를trac만큼 큰 관심을 불러일으켰습니다.

미스터비스트의 답변

미스터비스트는 딥페이크 영상을 발견한 후 소셜 미디어를 통해 우려를 표명했습니다. 그는 "많은 사람들이 내 모습을 사칭한 딥페이크 사기 광고를 접하고 있다"며 소셜 미디어 플랫폼들이 인공지능 딥페이크의 확산에 제대로 대처할 준비가 되어 있는지 의문을 제기했습니다. 그의 공개 성명은 소셜 미디어에 유포되는 딥페이크 사칭 영상의 피해자가 된 수많은 유명인들의 목소리에 힘을 실어주었습니다.

딥페이크의 정체를 밝히다

해당 딥페이크 광고에는 미스터비스트의 공식 로고와 파란색 인증 마크가 등장했지만, 예리한 시청자라면 인공지능 조작의 흔적을 쉽게 알아챌 수 있었다. 왜곡된 목소리와 부자연스러운 입 움직임은 인공지능 콘텐츠에서 흔히 나타나는 특징이다. 그럼에도 불구하고 해당 영상은 trac인기를 얻었으며, 이는 특히 분별력이 부족한 사용자들 사이에서 이러한 사기 수법이 얼마나 효과적인지를 보여준다.

틱톡의 답변

이번 논란에 대해 틱톡 대변인은 사기성 광고가 게시된 지 몇 시간 만에 신속하게 삭제되었으며, 딥페이크 영상을 제작한 관련 ​​계정은 정책 위반으로 인해 차단되었다고 확인했습니다. 틱톡은 또한 크리에이터가 AI로 생성된 콘텐츠에 라벨을 붙일 수 있는 도구를 도입하고 자동matic 메커니즘을 테스트하는 등 AI 생성 콘텐츠의 확산을 막기 위한 조치를 취하고 있습니다.

유명인 딥페이크의 트렌드

미스터비스트는 딥페이크 모방의 표적이 된 유일한 유명인이 아닙니다. 최근 배우 톰 행크스는 자신의 딥페이크 영상이 dent상품을 홍보하는 것을 비난하는 성명을 인스타그램에 올렸습니다. 그는 자신은 "아무런 관련이 없다"고 해명했습니다. 마찬가지로 로빈 윌리엄스의 딸 젤다는 인공지능이 재현한 아버지의 목소리에 대해 "개인적으로 불쾌하고" "끔찍한 프랑켄슈타인 괴물 같다"며 불편함을 표현했습니다

영국 배우 스티븐 프라이 역시 인공지능 오용의 피해자가 되었는데, 그의 목소리가 해리 포터 관련 콘텐츠에 허가 없이 사용되었습니다. 이러한dent들은 고도화된 인공지능 기술 시대에 딥페이크가 얼마나 빠르게 확산되고 있는지를 보여줍니다.

딥페이크 탐지의 어려움

구글과 같은 거대 기술 기업들이 인공지능으로 생성된 이미지를 탐지하는 SynthID와 같은 솔루션을 개발하고 있는 반면, 딥페이크 오디오 및 비디오 문제를 해결하는 것은 여전히 ​​복잡한 과제입니다. 실시간으로 인공지능 조작을 탐지하는 것은 매우 어려운 일이며, 완벽한 해결책이 나오기까지는 시간이 걸릴 것입니다. 그동안 사용자들은 주의를 기울이고, 상식을 활용하며, 의심스러운 콘텐츠는 사실 확인을 거치는 것이 좋습니다.

미스터비스트 딥페이크 논란은 소셜 미디어 영역에서 AI 딥페이크가 초래하는 위험성을 여실히 보여주는 사례입니다. 이는 틱톡과 같은 플랫폼이 허위 콘텐츠 유포를 막기 위해 더욱 경계해야 할 필요성을 강조합니다. 나아가 유명인과 공인을 사칭하는 AI 기반 콘텐츠 확산을 막기 위한 기술 발전의 시급성을 보여줍니다. 포괄적인 해결책이 마련될 때까지 온라인 사용자들은 이러한 사기 행위의 피해자가 되지 않도록 경계심을 늦추지 않고 비판적인 시각을 유지해야 합니다.