- 디스코드 측은 지난 5월 이후 AI 검열 오류로 8,000명 이상의 사용자가 계정 정지를 당한 후, 해당 계정들을 모두 복구했다고 밝혔습니다.
- 해당 금지 조치는 영구적이었으며 사람의 검토 절차를 거치지 않았습니다.
- 이번 사례는 인스타그램, 페이스북, 텀블러 등에서 잇따라 발생한 자동 검열 시스템 오류 사례에 추가되는 것이다.
디스코드(Discord)가dent로 차단했던 8,000개 이상의 계정을 복구했습니다. 자동 검열 시스템의 오류로 인해 아무런 문제가 없는 업로드 파일들이 불법 콘텐츠로 잘못 분류된 것입니다. 스프레드시트, 체스판, 게임 텍스처 등이 그 예입니다. 이러한 차단 조치는 영구적이었으며, 담당자의 승인 없이 이루어졌습니다.
Discord는 2026년 7월 7일 X 플랫폼의 지원 계정 에서 게시한 글에서 발생한 오류에 대해 자세히 설명했습니다.
사용자들은 5월부터 경고 메시지를 접해왔습니다. 디스코드 팀은 주말 동안 약 200개의 계정이 추가로 발견된 후 문제를dent하고 수정 패치를 배포할 수 있었습니다. 회사 측은 현재 영향을 받은 모든 계정을 복구하고 있다고 발표했습니다.
플래그가 지정된 스프레드시트 및 그리드의 유사성 일치
업로드된 모든 파일은 디스코드의 보안 도구에서 위험하다고 이미dent된 콘텐츠 데이터베이스와 비교됩니다. 회사는 이러한 비교의 기반이 되는 유사성 일치 방식이 오작동하여 잘못된 결과를 초래할 가능성이 있음을 인정합니다.
서류상으로는 계정에 제재가 가해지기 전에 신뢰 및 안전팀 담당자가 시스템에서 경고 표시를 한 사항을 검토해야 합니다.
해당 버그로 인해 그 단계가 생략되었습니다. 시스템은 의심스러운 업로드 파일을 검토자에게 보내는 대신 계정을 완전히 차단해 버렸습니다. 단순한 사진조차도 필터에 걸려 즉시 계정이 정지되었습니다. 스프레드시트와 체스판뿐만 아니라 투명한 흰색과 회색 배경도 감지되었습니다.
디스코드 측에서 해명을 내놓기 전에 , 해당 문제는 X와 레딧에서 제기되었습니다. 정사각형 격자 무늬가 있는 사진을 게시한 것이 계정 삭제의 유일한 원인으로 보고되었습니다.
몇몇 사용자들이 한 가지 이론을 제시했습니다. 탐지 모델이 격자형 레이아웃에 민감하게 반응했을 가능성이 있는데, 이는 과거에 격자형 레이아웃이 자동 스캐너로부터 성인 콘텐츠 및 아동 착취 콘텐츠를 숨기는 데 사용되었기 때문이라는 것입니다.
"...이 문제를 더 빨리 발견했어야 했습니다. 이런 일이 다시 발생하지 않도록 더 나은 안전장치를 마련하고 있습니다."라고 디스코드는 X 스레드에 글을 올렸습니다.
이번 주말, 저희 보안 시스템에 오류가 발생하여 약 200개의 계정이 차단되었습니다. 영향을 받은 모든 계정은 복구되었습니다.
무슨 일이 있었는지 알려드릴게요. 스레드 링크: https://t.co/wXH32iiv8I
— 디스코드 지원팀 (@discord_support) 2026년 7월 7일
메타와 텀블러에도 동일한 금지 조치가 적용되었습니다
7월 4일, JDBRYANT라는 아이디를 사용하는 게임 디렉터는 자신의 계정이 삭제된 이유가 자동 검열 시스템이 게임 텍스처를 아동 성학대 묘사로 해석했기 때문이라고 주장했습니다.
그가 업무 관련 모든 소통에 사용하는 채널이 차단 조치로 인해 사용이 불가능해졌다. 그는 계정 정지 조치에 대한 재검토를 요청했다고 주장했다.
다른 사용자는 더 나아가 “이 취약점은 즉시 수정되어야 하며, 모든 오진으로 인한 계정 정지는 취소되어야 합니다. 이처럼 불공정한 이유로 디스코드 계정을 잃는 것은 사용자에게 엄청난 충격을 줄 수 있으며, 매일 수백만 명의 사용자가 AI에 의한 오진으로 계정 정지를 당하고 있습니다. 이러한 상황은 반드시 중단되어야 합니다.”라고 X에 글을 남겼습니다
디스코드 자체 통계에 따르면, 디스코드는 매달 2억 명이 넘는 순사용자를 보유하고 있습니다 Cryptopolitan 2월에 인용한
작년에도 인스타그램과 페이스북 그룹 사용자들은 이유를 알 수 없는 계정 정지 사태를 겪었다고 신고했으며, 이는 자동화된 검열 시스템 때문이라는 의견이 지배적이었지만, 메타는 AI 오류가 원인인지 여부를 공식적으로 확인해주지 않았습니다. 이후 메타의 감독위원회는 회사에 투명성 강화를 요구해왔습니다.
텀블러는 명확한 이유 없이 대규모 계정 정지가 이루어졌다는 유사한 불만을 접수했습니다.
Cryptopolitan 2월에 보도한 바와 같이, 디스코드는 2026년 초에 아동 보호를 이유로 전 세계적으로 연령 확인 및 기본 설정 연령 제한 기능을 도입했습니다.
암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.
자주 묻는 질문
디스코드 사용자 중 부당하게 차단된 사람은 몇 명이며, 그중 복구된 사람은 몇 명입니까?
2026년 5월부터 8,000개 이상의 계정이 실수로 차단되었으며, 디스코드 측은 영향을 받은 모든 계정을 복구하고 있다고 밝혔습니다.
어떤 종류의 이미지가 잘못된 차단을 유발했나요?
스프레드시트, 체스판, 게임 텍스처, 흰색 및 회색 투명 배경 등 무해한 업로드 파일들이 유해한 것으로 분류되었습니다.
왜 사람의 검토 없이 금지 조치가 이루어졌나요?
디스코드의 시스템은 신고된 콘텐츠에 대해 조치를 취하기 전에 신뢰 및 안전 팀 구성원이 검토하도록 설계되었지만, 버그로 인해 해당 계정이 즉시 차단되는 문제가 발생했습니다.
란다 모세스
란다 모세스는 Cryptopolitan 의 편집자 겸 기자로, 기술, 인공지능, 로봇공학, 암호화폐, 사기 및 해킹 관련 기사를 쓰고 있습니다. 2017년부터 암호화폐 업계에서 활동해 온 그녀는 포워드 프로토콜, 아마직스, 크립토솜니악에서 근무한 경력이 있습니다. 란다는 브래드퍼드 대학교에서 전기tron공학 학위를 받았습니다.
