Google, OpenAI, Roblox и Discord объединились, чтобы принести пользу обществу, недавно создав новую некоммерческую организацию, целью которой является повышение безопасности детей в интернете.
Эта инициатива, известная как Robust Open Online Safety Tools (ROOST), направлена на обеспечение большей доступности основных технологий безопасности для компаний, а также на предоставление бесплатных инструментов с открытым исходным кодом на основе искусственного интеллекта дляdent, анализа и сообщения о материалах, содержащих сексуальную эксплуатацию детей.
Сексуальные домогательства в отношении детей — это всемирная эпидемия, которая продолжает процветать в онлайн-пространстве, несмотря на усилия по ее пресечению. В последнее время многие пользователи приложений и даже законодатели предлагают создателям приложений, таким как Марк Цукерберг из Meta, взять на себя ответственность за тот вред, который наносят их продукты, особенно в тех случаях, когда речь идет о детской порнографии и сексуальном насилии.
Данная инициатива направлена на удовлетворение насущной потребности
Эта совместная инициатива частично является ответом на изменения, которые достижения в области генеративного искусственного интеллекта внесли в онлайн-среду. Основатель ROOST и бывший генеральный директор Google Эрик Шмидт говорит, что инициатива направлена на решение «критической потребности в ускорении инноваций в области безопасности детей в интернете».
На данный момент подробная информация об инструментах обнаружения сексуального характера в интернете еще не полностью доступна. Однако известно, что они будут использовать большие языковые модели искусственного интеллекта и «объединят» существующие варианты обработки контента.
«Начиная с платформы, ориентированной на защиту детей, совместный подход ROOST к разработке программного обеспечения с открытым исходным кодом будет способствовать инновациям и сделает необходимую инфраструктуру более прозрачной, доступной и инклюзивной с целью создания более безопасного интернета для всех», — заявил Шмидт.
Как уже говорилось ранее, объявление ROOST совпадает с продолжающимся стремлением к регулированию вопросов безопасности детей в социальных сетях и на онлайн-платформах. Компании теперь стремятся успокоить законодателей, настроенных на борьбу, с помощью предложения о саморегулировании.
ROOST будет сотрудничать с ведущими разработчиками базовых моделей искусственного интеллекта для достижения своей цели
Согласно данным Национального центра по розыску пропавших и подвергшихся эксплуатации детей (NCMEC), число случаев предполагаемой эксплуатации детей выросло на 12% в период с 2022 по 2023 год. По состоянию на 2020 год более половины американских детей пользовались Roblox, и компания неоднократно подвергалась резкой критике за неспособность бороться с сексуальной эксплуатацией детей и распространением неприемлемого контента на своей платформе.
Члены-учредители ROOST, располагая всеми своими ресурсами, будут предоставлять финансирование, а также свои инструменты и экспертные знания для проекта по мере его развития. Инициатива также заявила о сотрудничестве с ведущими разработчиками базовых моделей ИИ для создания «сообщества практиков» в области защиты контента. Это будет включать предоставление проверенных наборов данных для обучения ИИ иdentпробелов в безопасности.
Эта инициатива также сделает «уже существующие инструменты» более доступными, эффективно объединив различные технологии обнаружения и отчетности от организаций-членов в единое решение, которое другие компании смогут внедрить проще.
Roblox и Discord работают над улучшением своей репутации
Наряду с Roblox, Discord также фигурировал в иске, поданном в 2022 году в отношении социальных сетей, в котором утверждалось, что платформы ничего не делают для предотвращения обмена сообщениями между взрослыми и детьми без присмотра.
Нарен Конеру, вице-dent Roblox по вопросам разработки, доверия и безопасности, заявил, что ROOST может стать платформой для систем модерации на основе ИИ, которые компании смогут интегрировать посредством API-запросов. Однако остается некоторая неопределенность относительно того, что именно будут охватывать инструменты модерации на основе ИИ от ROOST.
Например, Discord заявляет, что его вклад будет основан на кроссплатформенном проекте обмена информацией Lantern, к которому компания присоединилась в 2023 году вместе с Meta и Google. Но он также может включать в себя обновленную версию модели искусственного интеллекта Roblox для обнаружения нецензурной лексики, расизма, издевательств, секстинга и другого неприемлемого контента в аудиоклипах, которую компания планирует выпустить в качестве открытого исходного кода в этом году.
Остается выяснить, как эти инструменты будут взаимодействовать с уже существующими системами обнаружения сексуальной эксплуатации детей, такими как инструмент анализа изображений PhotoDNA от Microsoft.
Помимо участия в ROOST, Discord также выпустил новую функцию «Игнорировать», которая позволяет пользователям скрывать получаемые сообщения и уведомления, не уведомляя при этом тех, кого они отключили.
«В Discord мы считаем, что безопасность — это общее благо», — заявил главный юрисконсульт Discord Клинт Смит в заявлении ROOST. «Мы стремимся сделать весь интернет — а не только Discord — лучше и безопаснее, особенно для молодежи»
На данный момент инициатива собрала более 27 миллионов долларов, которых хватит на первые четыре года работы, при поддержке таких благотворительных организаций, как Фонд Макговерна, Фонд будущего онлайн-доверия и безопасности, Фонд Найта и AI Collaborative.
Организация ROOST также получит поддержку экспертов в области безопасности детей, искусственного интеллекта, технологий с открытым исходным кодом и «противодействия насильственному экстремизму». По сути, это кульминация совместной работы выдающихся умов в сфере технологий по борьбе с сексуальным насилием над детьми и распространением подобного контента по всему миру. А поскольку это проект с открытым исходным кодом, он может постоянно обновляться и улучшаться мировым сообществом разработчиков, а это значит, что создаваемый ROOST проект будет продолжать развиваться с течением времени.
