호주의 온라인 유해 콘텐츠 방지를 위한 새로운 기준

호주 eSafety 위원장 줄리 인먼 그랜트는 획기적인 조치로 애플, 구글, 메타 등 주요 기술 기업들이 자사 플랫폼에서 만연한 아동 성착취물과 테러 옹호 콘텐츠 문제를 해결하기 위해 보다 실질적인 조치를 취하도록 강제하는 세계 최초의 산업 표준을 발표했습니다. 이 표준은 생성형 AI를 이용해 제작된 "딥페이크" 아동 포르노의 확산에 대처하는 것까지 포함합니다. 

2년 넘게 집중적인 노력을 기울이고 기술 업계가 제안한 초안 규정을 거부한 끝에, 인만 그랜트 위원은 애플 아이클라우드, 구글 드라이브, 마이크로소프트 원드라이브와 같은 클라우드 기반 저장 서비스와 왓츠앱과 같은 메시징 플랫폼에 적용되는 기준 초안을 발표했습니다. 이 기준의 목적은 해당 기업들이 서비스에서 불법 콘텐츠를 제거하기 위한 노력을 강화하도록 강제하는 것입니다.

전 세계적인 영향이 예상됩니다

이전에 트위터 임원을 역임했던 인만 그랜트 위원은 이러한 호주의 업계 표준이 유해 콘텐츠 문제 해결을 위한 전 세계 유사 규제의dent 되기를 희망합니다. 이러한 요구 사항이 기술 기업들이 왓츠앱과 같은 일부 서비스에서 기본적으로 활성화되어 있는 종단간 암호화를 포기하도록 강요하는 것은 아니라는 점에 유의해야 합니다.

주요 기술 플랫폼들이 공공 서비스에서 아동 성학대 콘텐츠를 금지하는 정책을 가지고 있지만, 인먼 그랜트 위원은 이들 기업들이 자사 플랫폼을 제대로 관리하지 않고 있다고 주장합니다. 그녀는 "기술적인 실현 가능성 문제를 이해하고 있으며, 기술적으로 불가능한 일을 요구하는 것이 아닙니다. 하지만 플랫폼에서 끔찍한 학대가 일어나고 있는데도 이를 모른 척 외면하거나 문을 닫아버릴 도덕적, 법적 책임을 면제받을 수는 없다는 것입니다."라고 밝혔습니다

예를 들어, 종단간 암호화 서비스인 WhatsApp은 프로필 및 그룹 채팅 이름, 그리고 "치즈 피자 이모티콘"과 같이 아동 포르노를 나타내는 것으로 알려진 특정 기호 등 암호화되지 않은 서비스 부분을 감지하고 신고하기 위해 다양한 행동 신호를 활용합니다. 이러한 선제적 접근 방식을 통해 WhatsApp은 매년 130만 건의 아동 성 착취 및 학대 사례를 신고하고 있습니다.

딥페이크 아동 포르노에 대한 문제 제기

새로 마련된 기준은 오픈 소스 소프트웨어와 생성형 AI를 이용해 제작된 아동 성학대 자료 및 테러 선전물까지 적용 범위를 확대합니다. 호주에서는 학생들이 동급생의dent"딥페이크 포르노"를 제작하여 교육 현장에서 공유하는 심각한 문제가 발생하고 있습니다. 인만 그랜트 위원장은 "아동 성학대 자료가 신고 전화로 접수되고 있는데, 이는 특히 법 집행 기관 관계자들에게 큰 우려를 불러일으킵니다. 그들은 학대받는 아동을 구하기 위해 피해자dent확인에 많은 시간을 투자하고 있기 때문입니다."라고 우려를 표명했습니다

의 설계 단계에 규제 감독을 포함시키는 것이 기술 강력한 안전장치를 확보하는 데 중요하다고 강조했습니다. 인만 그랜트 위원은 "설계 단계에서 이러한 안전장치의 효과와 견고성을 구축하고 테스트하지 않으면, 일단 기술이 상용화되어 확산될 경우, 우리는 아마도 끝없이 희망 없는 두더지 잡기 게임을 하는 것과 다름없을 것입니다."라고 말했습니다.

공개 의견 수렴 및 시행

전자안전위원회 사무실은 초안 표준에 대한 공개 의견 수렴 기간을 시작했으며, 이 기간은 31일 동안 진행됩니다. 이 기간이 지나면 최종 표준안이 연방 의회에 제출될 예정이며, 등록 후 6개월이 지나면 발효됩니다.

이 기준은 더욱 엄격한 콘텐츠 검열을 의무화할 뿐만 아니라, 기술 기업들이 신뢰와 안전을 확보하기 위한 노력에 충분한 자원과 인력을 투입하도록 요구합니다. 

인만 그랜트 위원장은 "인력, 정책, 절차, 기술에 투자하지 않고서는 콘텐츠 검열을 할 수 없습니다. cake 를 다 잡을 수는 없습니다. 아동 성학대를 검열하지 않으면서 동시에 사용자가 서비스에서 아동 성학대를 발견했을 때 신고할 수 있는 방법을 제공하지 않는다면, 플랫폼에서 벌어지는 실제 범죄 현장을 사실상 외면하는 것과 마찬가지입니다."라고 말했습니다

이러한 기준 도입은 최근 소셜 미디어 대기업인 X(구 트위터)가 자사 플랫폼의 아동 착취물 문제를 적절히 해결하지 못했다는 이유로 eSafety 위원회가 부과한 61만 500달러의 벌금 납부를 거부한dent 에 따른 것입니다. X는 연방 법원에 사법 심사를 신청했습니다. 인만 그랜트 위원장 사무실은 X Corp의 보고 의무 불이행에 대한 대응 방안을 계속 검토 중이지만, 진행 중인 법적 소송에 대해서는 언급을 자제하고 있습니다.

기술이 유해 콘텐츠 확산을 가속화하는 시대에, 호주가 포괄적인 산업 표준을 수립하기 위한 선구적인 움직임을 보인 것은 특히 아동과 취약 계층을 위한 온라인 공간의 안전을 확보하는 데 중요한 진전입니다. 이러한 표준이 공청회를 거쳐 최종적으로 시행됨에 따라, 전 세계는 다른 국가들이 온라인 아동 착취 및 테러 조장 콘텐츠 퇴치에 있어 호주의 선례를 따를지 주목하게 될 것입니다.