Новые стандарты Австралии для борьбы с онлайн-вредом

В новаторском шаге комиссар по безопасности в сети Австралии Джули Инман Грант представила мировые отраслевые стандарты, направленные на то, чтобы обязать крупные технологические компании, включая Apple, Google и Meta, предпринять более существенные действия по борьбе с широко распространенными проблемами незаконного сексуального контента в отношении детей и про-террористического контента на их платформах. Эти стандарты также распространяются на борьбу с тревожным появлением «глубоких фейков» детской порнографии, созданных с помощью генеративного ИИ.

После более чем двух лет интенсивных усилий и отклонения проектов кодов, предложенных технологической индустрией, комиссар Инман Грант теперь опубликовала проекты стандартов, которые применяются к облачным сервисам хранения, таким как Apple iCloud, Google Drive и Microsoft OneDrive, а также к платформам обмена сообщениями, таким как WhatsApp. Цель состоит в том, чтобы обязать эти компании усилить свои усилия по устранению незаконного контента из своих сервисов.

Ожидается глобальное влияние

Комиссар Инман Грант, ранее занимавшая должность руководителя в Twitter, надеется, что эти австралийские отраслевые стандарты послужат прецедентом для аналогичных регулирований по всему миру для решения повсеместной проблемы вредоносного контента. Важно отметить, что эти требования не заставят технологические компании жертвовать своим собственным сквозным шифрованием, которое по умолчанию включено в некоторых сервисах, таких как WhatsApp.

Хотя крупные технологические платформы имеют политики, запрещающие материалы сексуальной эксплуатации детей на своих публичных сервисах, комиссар Инман Грант утверждает, что эти компании не сделали достаточно для контроля своих собственных платформ. Она уточнила: «Мы понимаем вопросы технической осуществимости, и мы не просим их делать ничего, что технически невозможно. Но мы также говорим, что вы не освобождаетесь от моральной и правовой ответственности просто выключить свет или закрыть дверь и притвориться, что этого ужасающего насилия не происходит на ваших платформах».

Например, WhatsApp, сервис со сквозным шифрованием, использует различные поведенческие сигналы для обнаружения и сообщения о незашифрованных частях своих сервисов, включая имена профилей и групповых чатов, а также определенные символы, известные как представляющие детскую порнографию, такие как «эмодзи сырной пиццы». Этот проактивный подход позволяет WhatsApp сообщать о 1,3 миллиона случаев сексуальной эксплуатации и насилия в отношении детей каждый год.

Борьба с глубокой фейковой детской порнографией

Разработанные стандарты также распространяют свою юрисдикцию на материалы сексуальной эксплуатации детей и террористическую пропаганду, созданные с использованием программного обеспечения с открытым исходным кодом и генеративного ИИ. Тревожная тенденция в Австралии включает создание студентами «глубоких фейков» порнографии своих сверстников и их распространение в образовательных учреждениях. Комиссар Инман Грант выразила свою обеспокоенность, заявив: «Мы видим, что синтетические материалы сексуальной эксплуатации детей сообщаются через наши горячие линии, и это особенно беспокоит наших коллег в правоохранительных органах, потому что они тратят много времени на идентификацию жертв, чтобы они могли фактически спасти детей, которые подвергаются насилию».

Она подчеркнула важность включения регуляторного контроля на этапе проектирования этих технологий , чтобы обеспечить надежные меры защиты, предотвращающие распространение вредоносного контента. По словам комиссара Инман Грант: «Если мы не закладываем и не тестируем эффективность и надежность этих ограждений на этапе проектирования, а затем выпускаем их в дикую природу, где они размножаются, то мы просто играем, вероятно, в бесконечную и несколько безнадежную игру в „бей кротов“».

Публичные консультации и внедрение

Офис комиссара по безопасности в сети инициировал период публичных консультаций по проектам стандартов, который продлится 31 день. После этого периода окончательные версии стандартов будут представлены в федеральном парламенте и вступят в силу через шесть месяцев после их регистрации.

Стандарты не только предписывают более строгую модерацию контента, но и требуют от технологических компаний выделять достаточные ресурсы и персонал для обеспечения доверия и безопасности. 

Комиссар Инман Грант заявила: «Вы не можете заниматься модерацией контента, если не инвестируете в персонал, политики, процессы и технологии. Нельзя есть пирог и оставить его целым. Если вы не сканируете материалы сексуальной эксплуатации детей, но при этом не предоставляете публике возможности сообщать вам о таких материалах, которые они находят на ваших сервисах, то вы по сути закрываете глаза на преступления, происходящие в реальном времени на вашей платформе».

Введение этих стандартов последовало за недавним инцидентом с гигантом социальных сетей X, ранее известным как Twitter, который отказался выплатить штраф в размере 610 500 долларов, наложенный комиссаром по безопасности в сети (eSafety Commissioner) за предполагаемое недостаточное реагирование на материалы сексуальной эксплуатации детей на его платформе. X подала ходатайство о судебном пересмотре в Федеральный суд. Канцелярия комиссара Инман Грант продолжает оценивать свои варианты действий в отношении несоблюдения X Corp требований уведомления о предоставлении отчетности, но воздерживается от комментариев по поводу текущих судебных разбирательств.

В эпоху, когда технологии усилили распространение вредоносного контента, новаторский шаг Австралии по установлению всеобъемлющих отраслевых стандартов сигнализирует о значительном прогрессе в обеспечении безопасности онлайн-пространства, особенно для детей и уязвимых лиц. По мере того как эти стандарты проходят общественные консультации и в конечном итоге внедряются, весь мир будет внимательно следить за тем, последуют ли другие страны примеру Австралии в борьбе с сексуальной эксплуатацией детей и пропагандой терроризма в интернете.