텔레그램, AI로 15만 개의 불법 그룹 제거

텔레그램은 인공지능(AI)을 사용하여 메신저 플랫폼에서 약 1,500만 개의 불법 그룹을 제거했습니다. 지난 몇 달간 플랫폼은 메신저 애플리케이션에서 불법 콘텐츠를 제거하라는 엄청난 압력을 받아 왔습니다. 이러한 압력은 Pavel Durov CEO의 프랑스 체포로 이어졌으며, 그는 애플리케이션에서 공유된 유해하고 불법적인 콘텐츠와 관련된 혐의로 기소되었습니다.

법정 첫날을 보낸 뒤 엄격한 제한을 받고 있는 듀로프는 플랫폼이 작업을 시작한 것으로 보입니다. 보고서에 따르면 Telegram, 사기 관련 불법 그룹 및 채널 1,540만 개 이상을 제거했습니다. 그리고 기타 불법 활동.

성명서에서 텔레그램은 이 성과가 최첨단 인공지능 모더레이션 도구를 사용하여 달성되었다고 강조했습니다. 이 조치는 9월 단속을 발표하고 듀로프가 정부 요청을 준수하려고 노력하고 있다고 언급한 이후 이루어진 것입니다.

텔레그램, 모니터링을 위한 새로운 모더레이션 페이지 출시

새로운 모더레이션 페이지는 회사의 대외적 투명성 정책과 일치합니다. 듀로프의 텔레그램 페이지 게시글에 따르면, 회사는 대중이 이러한 불법 활동 퇴치 노력을 볼 수 있기를 원합니다. 그는 지난 몇 달간 모더레이션 팀이 백그라운드에서 활동하며 약관을 위반한 콘텐츠를 제거했다고 언급하고, 이러한 위협을 억제하는 데 도움을 준 사용자에게 감사를 표했습니다.

듀로프는 사용자가 실시간으로 확인할 수 있는 정기적인 업데이트를 제공하겠다고 약속했습니다. 이는 모더레이션 팀이 수행하는 작업량을 보여주기 위한 것입니다.

모더레이션 페이지에 따르면, 듀로프 체포 이후 플랫폼의 집행 비율이 높아졌습니다. 페이지에는 불법 계정 제거가 2015년부터 시행되어 왔다고 명시되어 있습니다. 현재 차단된 불법 그룹 및 채널은 약 1,547만 4,022개로, 이는 2024년 한 해의 수치만 나타냅니다.

텔레그램은 또한 올해 아동 성학대 자료(CSAM)에 대한 단속을 강화하여 총 703,809개의 그룹 및 채널을 금지했습니다.

사용자 신고와 모더레이션 팀의 능동적인 작업 외에도, 텔레그램은 CSAM에 대한 제3자 기관을 통해 처리된 수천 건의 사례를 보고했으며, 이는 즉각적인 금지로 이어졌습니다. 수치를 세분화하면 가장 많은 신고를 제공한 상위 4개 기관을 강조하는데, 여기에는 인터넷 감시 재단(IWF), 실종 및 착취 아동 국가 센터, 캐나다 아동 보호 센터, 그리고 스티칭 오피멀리츠(Stitching Offlimits)가 포함됩니다.

2016년 이후 텔레그램은 Europol로부터 인정을 받은 노력에 대한 일일 업데이트를 제공하며 폭력 및 테러 선전에 적극적으로 맞서 왔습니다. 회사는 2022년 이후 이러한 분야에서 수많은 조직과 협력했으며, 1억 건의 테러 관련 콘텐츠를 금지했다고 밝혔습니다. 2024년 텔레그램은 129,099건의 테러 관련 콘텐츠를 차단했다고 밝혔습니다.

불법 자료 퇴치 움직임 속 듀로프의 지속되는 제한

듀로프는 법정 첫날 이후 프랑스 당국의 감시를 계속 받게 됩니다. 텔레그램 CEO는 법률 고문의 동행을 받아 플랫폼 활동과 관련된 여러 질문에 답변했습니다.

듀로프는 심리 후 사건에 대해 발언을 거부했지만, 프랑스 사법 시스템을 믿고 자신의 무죄를 주장했습니다. 그러나 유죄 판결을 받을 경우, 55만 달러의 벌금과 함께 최대 10년의 징역형을 선고받을 수 있습니다.

한편, 텔레그램은 최근 인터넷 감시 재단(IWF)와의 파트너십을 발표하며 플랫폼에서 공유되는 불법 아동 성착취 자료 퇴치를 시도하고 있음을 시사했습니다.

자선 단체는 최첨단 AI 도구를 사용하여 이러한 자료를 식별하고 제거할 것입니다. IWF의 CEO인 데렉 레이힐은 두 기업이 함께 달성할 수 있는 놀라운 성과에 대해 언급했습니다. “온라인 성학대 자료의 확산이 사실상 불가능한 세상을 만들기 위해 우리가 취할 수 있는 추가 조치를 함께 보게 되기를 기대합니다”라고 그는 말했습니다.