한국 당국이 딥페이크 콘텐츠로 인해 텔레그램을 조사 중

한국 당국은 텔레그램이 성적으로 노골적인 딥페이크 콘텐츠 유통에 역할을 했는지 평가하기 위해 메신저 플랫폼에 대한 조사를 시작했습니다.

9월 2일 로이터의 보도는 디지털 플랫폼을 통한 성 착취 퇴치를 위한 정부의 노력이 강화되었음을 보여줍니다. 이는 한국 여성을 표적으로 한 딥페이크 사례가 증가하고 있기 때문입니다.

보도된 바와 같이 이번 조사는 한국 법 집행 기관이 텔레그램에 대해 법적 조치를 취한 첫 사례입니다. 플랫폼에 대한 혐의에는 딥페이크 콘텐츠의 유통을 통한 성범죄 방조가 포함됩니다.

한국 청소년 사이에서 딥페이크 포르노 사례 급증

조사는 텔레그램 앱에서 가짜 성인 콘텐츠를 생성하고 유포하는 8개의 봇에 초점을 맞추고 있습니다. 8월 말 조사 시작 이후 88건의 신고가 접수되었고, 딥페이크 유포 혐의로 24명의 용의자가 지목되었습니다.

최근 더 많은 사례가 보고되면서 딥페이크 포르노는 중요한 우려 사항이 되었습니다. 한국 경찰은 올해만 297건의 딥페이크 성범죄를 기록했으며, 이는 전년도의 156건과 비교됩니다. 놀랍게도 피해자와 가해자 모두 주로 십대인 경우가 많아, 이 문제가 청소년 사이에서 만연해 있음을 시사합니다. 

한국은 전 세계적으로 딥페이크 포르노의 가장 큰 영향을 받은 국가가 되었습니다. 미국 기반 신원 도용 보호 기업인 Security Hero에 따르면, 딥페이크 포르노 피해자의 53%가 한국 가수 및 여배우입니다. 

정부, 노골적인 딥페이크 근절을 위한 새로운 입법 발표

증가하는 위험으로 인해 한국 정부는 최근 성적으로 노골적인 딥페이크의 생산과 유통을 방지하기 위한 새로운 입법이 시행될 것이라고 발표했습니다. 한국방송통신위원회(KCC)도 소셜 미디어 기업들에게 이러한 콘텐츠의 삭제 및 차단을 더욱 강화할 것을 촉구했습니다. 

동시에 한국 당국은 텔레그램 대응 및 기업과의 직접적인 소통 강화를 위해 프랑스 counterparts의 도움을 요청했습니다. 한국 국가정책청장 조지호는 텔레그램과 같은 메신저 앱이 범죄와 연결되어 있는지 확인할 계획이라고 밝혔습니다. 

텔레그램, 국제적인 감시 대상

텔레그램은 과거 금지된 콘텐츠를 허용했다는 비난을 받아왔으며, 이번 사건도 유사한 사례입니다. 플랫폼의 창립자 파벨 두로프는 프랑스에서 여러 혐의를 받고 있으며 현재 수사를 받고 있습니다. 프랑스 경찰은 플랫폼이 조직 범죄와 관련이 있을 가능성을 조사하고 있습니다.

프랑스에서 체포된 지 며칠 후, 인도 정부가 텔레그램을 범죄와의 연관성으로 조사하고 있다는 사실이 알려졌습니다. 이는 한국 정부의 우려를 해결하기 위해 텔레그램에 더 많은 압력을 가하고 있습니다. 

텔레그램은 아동 포르노를 포함한 금지된 콘텐츠를 모니터링하고 삭제한다고 밝혔습니다. 그러나 회사의 이러한 능력에 의문이 제기되었습니다. 회사는 두로프에 대한 혐의를 부인하며, 플랫폼 소유자가 사용자의 행동에 대해 책임을 지는 것은 부당하다고 말했습니다.