온라인 해악 퇴치를 위한 호주의 새로운 기준

호주의 eSafety Commissioner인 줄리 인먼 그랜트(Julie Inman Grant)는 Apple, Google, Meta를 포함한 주요 테크 기업들이 플랫폼상의 아동 성착취물 및 테러 선동 콘텐츠와 같은 만연한 문제를 해결하기 위해 더 강력한 조치를 취하도록 요구하는 세계 최초의 산업 표준을 발표했습니다. 이러한 표준은 생성형 AI를 이용해 제작된 '딥페이크' 아동 포르노그래피의 disturbing한 출현을 퇴치하는 것까지 확대됩니다.

2년 이상의 집중적인 노력과 기술 업계가 제안한 초안 코드들의 거부를 거쳐, 이만맨 그랜트 위원장은 이제 Apple iCloud, Google Drive, Microsoft OneDrive와 같은 클라우드 기반 스토리지 서비스와 WhatsApp과 같은 메시징 플랫폼에 적용될 초안 기준을 발표했습니다. 이 목표는 이러한 회사들이 서비스에서 불법적인 콘텐츠를 제거하기 위한 노력을 강화하도록 강제하는 것입니다.

글로벌 영향력 예상

이전 트위터(Twitter)에서 임원직을 역임한 이만맨 그랜트 위원장은 이러한 호주 산업 기준이 전 세계적으로 해로운 콘텐츠라는 광범위한 문제를 해결하기 위한 유사한 규제의 선례가 되기를 바랍니다. 중요한 점은 이러한 요구사항이 WhatsApp과 같은 일부 서비스에서 기본적으로 활성화된 자체 엔드투엔드 암호화를 포기하도록 기술 기업을 강요하지는 않는다는 것입니다.

주요 기술 플랫폼은 공개 서비스에서 아동 성학대 자료를 금지하는 정책을 가지고 있지만, 이만맨 그랜트 위원장은 이러한 회사들이 자체 플랫폼을 단속하는 데 충분히 노력하지 않았다고 주장합니다. 그녀는 “기술적 실행 가능성과 관련된 문제를 이해하고 있으며, 기술적으로 불가능한 것을 요청하는 것은 아닙니다. 하지만 우리는 또한 여러분이 단순히 불을 끄거나 문을 닫고 여러분의 플랫폼에서 끔찍한 학대가 일어나고 있는 것을 무시하는 도덕적, 법적 책임에서 면제되는 것은 아니라고 말하고 있습니다.”라고 명확히 했습니다.

예를 들어, 엔드투엔드 암호화 서비스인 WhatsApp은 프로필 및 그룹 채팅 이름과 ‘치즈 피자 이모지’처럼 아동 포르노그래피를 나타내는 것으로 알려진 특정 기호를 포함하여 서비스의 비암호화 부분을 감지하고 보고하기 위해 다양한 행동 신호를 사용합니다. 이러한 선제적 접근 방식을 통해 WhatsApp은 매년 130만 건의 아동 성착취 및 학대 사례를 보고할 수 있습니다.

딥페이크 아동 포르노그래피와의 도전

초안 기준은 오픈소스 소프트웨어와 생성형 AI를 사용하여 생성된 아동 성학대 자료와 테러 선전물에도 적용 범위를 확장합니다. 호주에서는 학생들 사이에서 동료들을 대상으로 한 ‘딥페이크 포르노’를 제작하여 교육 환경 내에서 공유하는 경향이 alarming하게 나타나고 있습니다. 이만맨 그랜트 위원장은 “우리는 핫라인을 통해 합성 아동 성학대 자료가 보고되는 것을 보고 있으며, 이는 특히 법 집행 기관 동료들에게 우려스러운 사항입니다. 그들은 학대받는 아이들을 실제로 구할 수 있도록 피해자 신원 확인에 많은 시간을 보내기 때문입니다.”라고 우려를 표명했습니다.

그녀는 해로운 콘텐츠의 확산을 방지하기 위해 견고한 안전장치를 마련할 수 있도록, 이러한 기술의 설계 단계에 규제 검토를 반영하는 것의 중요성을 강조했습니다. 이만맨 그랜트(Inman Grant) 위원장은 “설계 단계에서 이러한 안전장치의 효과성과 견고성을 구축하고 테스트하지 않는다면, 일단 세상에 공개되어 복제되기 시작하면 우리는 아마도 끝이 없고 다소 희망 없는 두더지 잡기 게임을 하게 될 것”이라고 말했습니다.

공개 협의 및 시행

eSafety 위원회 사무실은 초안 기준에 대해 31일간 공개 협의 기간을 시작했습니다. 이 기간이 끝나면 기준의 최종 버전이 연방 의회에 제출되며, 등록 후 6개월 후에 발효될 예정입니다.

이 기준들은 엄격한 콘텐츠 검수를 의무화할 뿐만 아니라, 기술 기업들이 신뢰 및 안전 노력에 충분한 자원과 인력을 배정하도록 요구합니다. 

이만맨 그랜트 위원장은 “인력, 정책, 프로세스, 기술에 투자하지 않고서는 콘텐츠 검수를 수행할 수 없습니다. 또한 양쪽 모두의 이익을 취할 수는 없습니다. 아동 성학대를 검색하지 않으면서도 사용자가 서비스에서 이를 발견했을 때 보고할 수 있는 방법을 제공하지 않는다면, 이는 사실상 플랫폼에서 일어나는 실시간 범죄 현장을 외면하는 것과 같습니다.”라고 말했습니다.

이러한 기준의 도입은 최근 소셜 미디어 거인 X(구 트위터)가 eSafety 위원회가 부과한 610,500달러의 벌금을 지불하기를 거부한 사건 이후 이루어졌습니다. X는 플랫폼에서 아동 착취 자료를 적절히 처리하지 않았다는 이유로 벌금을 물게 되었으며, X는 연방 법원에 사법 심사를 신청했습니다. 이만맨 그랜트 위원장 사무실은 보고 통지에 대한 X Corp의 불이행과 관련하여 옵션을 계속 평가하고 있지만, 진행 중인 법적 절차에 대해서는 논평을 자제하고 있습니다.

기술이 해로운 콘텐츠의 확산을 증폭시킨 시대에, 포괄적인 산업 기준을 수립하기 위한 호주의 선구적인 조치는 특히 어린이와 취약한 개인들을 위해 온라인 공간의 안전을 보장하기 위한 중요한 한 걸음을 의미합니다. 이러한 기준이 공개 협의와 최종 시행을 거치는 동안, 세계는 다른 국가들이 온라인 아동 착취 및 테러 지지 콘텐츠와의 싸움에서 호주의 뒤를 따를지 주시할 것입니다.