Новые стандарты Австралии по борьбе с причинением вреда в интернете

В рамках новаторского шага комиссар Австралии по вопросам безопасности в интернете Джули Инман Грант представила первые в мире отраслевые стандарты, призванные обязать крупные технологические компании, включая Apple, Google и Meta, принять более существенные меры по борьбе с широко распространенными проблемами распространения в интернете материалов, содержащих детскую сексуальную эксплуатацию, и контента, пропагандирующего терроризм, на своих платформах. Эти стандарты также распространяются на борьбу с тревожным появлением детской порнографии, созданной с помощью генеративного искусственного интеллекта («дипфейк»). 

После более чем двух лет интенсивных усилий и отклонения проектов кодексов, предложенных технологической индустрией, комиссар Инман Грант опубликовал проект стандартов, которые применяются к облачным сервисам хранения данных, таким как Apple iCloud, Google Drive и Microsoft OneDrive, а также к платформам обмена сообщениями, таким как WhatsApp. Цель состоит в том, чтобы заставить эти компании активизировать свои усилия по удалению незаконного контента из своих сервисов.

Ожидается глобальное воздействие

Комиссар Инман Грант, ранее занимавший руководящую должность в Twitter, надеется, что эти австралийские отраслевые стандарты послужатdent для аналогичных правил во всем мире, направленных на решение широко распространенной проблемы вредоносного контента. Важно отметить, что эти требования не обяжут технологические компании жертвовать собственным сквозным шифрованием, которое включено по умолчанию в некоторых сервисах, таких как WhatsApp.

Хотя крупные технологические платформы имеют политику, запрещающую размещение материалов с изображением сексуального насилия над детьми на своих общедоступных сервисах, комиссар Инман Грант утверждает, что эти компании недостаточно делают для контроля за своими собственными платформами. Она пояснила: «Мы понимаем проблемы, связанные с технической осуществимостью, и мы не просим их делать ничего, что технически невозможно. Но мы также говорим, что вы не освобождаетесь от моральной и юридической ответственности просто выключить свет или закрыть дверь и делать вид, что этого ужасного насилия на ваших платформах не происходит»

Например, WhatsApp, сервис со сквозным шифрованием, использует различные поведенческие сигналы для обнаружения и сообщения о незашифрованных частях своих сервисов, включая имена профилей и групповых чатов, а также определенные символы, известные как символы детской порнографии, такие как «эмодзи сырной пиццы». Такой проактивный подход позволяет WhatsApp ежегодно сообщать о 1,3 миллионах случаев сексуальной эксплуатации и насилия над детьми.

Опровержение дипфейков детской порнографии

Разработанные стандарты также распространяют свою сферу действия на материалы, содержащие сцены сексуального насилия над детьми, и террористическую пропаганду, созданную с использованием программного обеспечения с открытым исходным кодом и генеративного искусственного интеллекта. Тревожная тенденция в Австралии связана с тем, чтоdentсоздают «дипфейк-порно» со своими сверстниками и распространяют его в учебных заведениях. Комиссар Инман Грант выразила свою обеспокоенность, заявив: «Мы видим, что через наши горячие линии поступают сообщения о синтетических материалах, содержащих сцены сексуального насилия над детьми, и это особенно беспокоит наших коллег в правоохранительных органах, поскольку они тратят много времени наdentжертв, чтобы действительно спасти детей, подвергающихся насилию»

Она подчеркнула важность включения регуляторного контроля на этапе проектирования этих технологий для обеспечения надежных мер защиты, предотвращающих распространение вредоносного контента. По словам комиссара Инмана Гранта: «Если мы не будем закладывать и проверять эффективность и надежность этих защитных механизмов на этапе проектирования, то после их внедрения и распространения мы будем играть в бесконечную и, по сути, безнадежную игру в "ударь крота"».

Общественные консультации и реализация

Управление комиссара по вопросам безопасности в интернете начало период общественных консультаций по проекту стандартов, который продлится 31 день. По истечении этого периода окончательные версии стандартов будут представлены в федеральном парламенте и должны вступить в силу через шесть месяцев после их регистрации.

Эти стандарты не только предусматривают более строгую модерацию контента, но и требуют от технологических компаний выделения достаточных ресурсов и персонала для обеспечения доверия и безопасности. 

Комиссар Инман Грант заявил: «Невозможно осуществлять модерацию контента, если вы не инвестируете в персонал, политику, процессы и технологии. И нельзя одновременно и cake съесть, и на елку влезть. Если вы не проверяете наличие материалов, связанных с сексуальным насилием над детьми, но при этом не предоставляете общественности возможности сообщить вам об этом, то вы фактически закрываете глаза на происходящие на вашей платформе преступления»

Введение этих стандартов последовало за недавнимdent с участием гиганта социальных сетей X, ранее известного как Twitter, который отказался выплатить штраф в размере 610 500 долларов, наложенный Комиссаром по вопросам безопасности в интернете, за якобы ненадлежащее реагирование на материалы, связанные с эксплуатацией детей, на своей платформе. Компания X подала заявление о судебном пересмотре в Федеральный суд. Офис комиссара Инмана Гранта продолжает оценивать свои варианты действий в отношении несоблюдения компанией X требований уведомления о нарушении, но воздерживается от комментариев по поводу текущих судебных разбирательств.

В эпоху, когда технологии значительно ускорили распространение вредоносного контента, новаторский шаг Австралии по созданию всеобъемлющих отраслевых стандартов является важным шагом на пути к обеспечению безопасности в онлайн-пространстве, особенно для детей и уязвимых групп населения. По мере того, как эти стандарты проходят общественное обсуждение и в конечном итоге внедряются, мир будет внимательно следить за тем, последуют ли другие страны примеру Австралии в борьбе с онлайн-эксплуатацией детей и контентом, пропагандирующим терроризм.