- 딥페이크 사기가 틱톡의 유명인을 대상으로 하여 콘텐츠 진정성에 대한 우려를 제기하고 있습니다.
- 미스터비스트의 대립은 소셜 플랫폼이 AI 생성 속임수를 막아야 할 필요성을 강조합니다.
- 실시간으로 AI 딥페이크를 탐지하는 것은 여전히 기술적 과제로 남아있습니다.
인기 유튜버이자 자선가인 MrBeast는 최근 ByteDance Ltd.의 TikTok이 플랫폼에서 딥페이크 영상이 유포되는 것을 방조한 것에 대해 맞서고 있습니다. 이 영상은 MrBeast의 AI 생성 모방이 10,000대의 iPhone 15 Pro를 단 2달러에 대량 증정한다고 발표하는 내용을 담고 있었습니다. 이 사건은 소셜 미디어 플랫폼에서 AI 딥페이크에 대한 우려가 커지고 있으며 사용자를 기만할 잠재력이 있음을 보여줍니다. 이 기사에서는 이 논쟁의 세부 사항과 온라인 콘텐츠 진위성에 대한 함의를 자세히 살펴보겠습니다.
딥페이크 사기
주요 소셜 미디어 플랫폼인 TikTok은 MrBeast의 AI 생성 딥페이크 버전을 보여주는 광고를 게재했습니다. 영상에서 사기꾼은 각 iPhone이 단 2달러에 불과한 '세계 최대 iPhone 15 증정전'을 조직하고 있다고 주장했습니다. MrBeast가 증정전과 경품을 주최한다는 명성 때문에 이 대담한 제안은 자연스럽게 상당한 관심을 끌었습니다.
MrBeast의 대응
딥페이크 동영상을 발견한 MrBeast는 소셜 미디어를 통해 자신의 우려를 표명했습니다. 그는 “많은 사람들이 저의 이 딥페이크 사기 광고를 보고 있습니다”라고 지적하며 소셜 미디어 플랫폼이 AI 딥페이크의 증가에 대처할 준비가 되어 있는지 의문을 제기했습니다. 그의 공개 성명은 소셜 미디어에서 유포되는 딥페이크 사칭의 피해자가 된 유명인들 사이에서 자신의 목소리를 더했습니다.
딥페이크의 정체를 밝히다
비록 딥페이크 광고에 MrBeast의 공식 로고와 블루 체크마크가 포함되었지만, 날카로운 시청자들은 AI 조작의 흔적을 식별할 수 있었습니다. 관찰자들은 AI 생성 콘텐츠의 특징인 왜곡된 목소리와 부자연스러운 입모션을 지적했습니다. 그럼에도 불구하고 이 비디오는 여전히 입소문을 타며 확산되었으며, 이는 특히 식별력이 낮은 사용자들 사이에서 이러한 사기의 효과성을 보여줍니다.
틱톡의 대응
논란에 대응하여 틱톡 대변인은 사기성 광고가 게시된 지 몇 시간 만에 신속하게 제거되었고, 딥페이크와 관련된 계정이 정책 위반으로 인해 삭제되었음을 확인했습니다. 틱톡은 또한 창작자가 이러한 콘텐츠를 표시할 수 있는 도구를 도입하고 자동 표시 메커니즘을 테스트함으로써 AI 생성 콘텐츠의 확산을 퇴치하기 위한 조치를 취했습니다.
유명인 딥페이크의 트렌드
MrBeast는 딥페이크 사칭의 표적이 된 유일한 유명인이 아닙니다. 최근 배우 톰 행크스는 치과 보험을 홍보하는 자신의 딥페이크 버전을 비난하는 성명을 인스타그램에 게시했습니다. 그는 자신이 “그것과 아무 관련이 없다”고 명확히 했습니다. 마찬가지로 로빈 윌리엄스의 딸인 젤다는 아버지의 목소리를 재현한 AI 콘텐츠에 대해 “개인적으로 불쾌하다”고 표현하며 “끔찍한 프랑켄슈타인 같은 괴물”이라고 불렀습니다.
영국 배우 스티븐 프라이도 AI 오용의 피해자가 되어 해리 포터 책과 관련된 콘텐츠에 그의 목소리가 무단으로 사용되었습니다. 이러한 사건들은 첨단 AI 기술 시대에 딥페이크의 증가하는 속도를 강조합니다.
딥페이크 감지의 과제
구글과 같은 기술 거대 기업들이 SynthID와 같은 솔루션을 통해 AI 생성 이미지를 감지하기 위해 노력하고 있지만, 딥페이크 오디오와 비디오를 다루는 것은 여전히 복잡한 과제입니다. 실시간으로 AI 조작을 감지하는 것은 formidable한 작업이며, 포괄적인 솔루션이 이용 가능해질 때까지 시간이 걸릴 것입니다. 그 동안 사용자는 경계를 늦추지 않고 상식을 활용하며, 의심스러운 콘텐츠는 사실 확인을 해야 합니다.
MrBeast 딥페이크 논란은 소셜 미디어 영역에서 AI 딥페이크가 초래하는 위험에 대한 stark한 경고입니다. 이는 TikTok과 같은 플랫폼이 기만적 콘텐츠의 확산을 방지하기 위해 경계를 늦추지 말아야 할 필요성을 강조합니다. 또한, 유명인 및 공인들을 모방한 AI 생성 콘텐츠의 확산을 막기 위한 기술적 진전의 시급성을 부각시킵니다. 포괄적인 솔루션이 마련되기 전까지, 온라인 사용자는 이러한 사기에 휘말리지 않도록 경계하고 비판적인 시각을 유지해야 합니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
