Стэнфордская интернет-обсерватория сделала тревожное открытие: в наборе данных LAION-5B, используемом для обучения генераторов изображений для искусственного интеллекта, обнаружено более 1000 поддельных изображений сексуального насилия над детьми. Это открытие, обнародованное в апреле, вызвало серьезные опасения по поводу источников и методов, используемых для составления обучающих материалов для ИИ.
LAION-5B, связанный с разработанным лондонской компанией Stability AI инструментом для создания изображений Stable Diffusion AI, собрал эти изображения, используя контент из социальных сетей и порнографических сайтов. Обнаружение подобного контента в обучающих материалах для ИИ вызывает тревогу, учитывая широкое распространение этих платформ и их потенциальное влияние.
Решение этой проблемы с помощью технологий
В своих попыткахdentэти изображения исследователи из Стэнфорда не просматривали контент, содержащий материалы сексуального характера, напрямую. Вместо этого они использовали технологию PhotoDNA от Microsoft — инструмент, предназначенный для обнаружения изображений, содержащих материалы сексуального характера с участием детей, путем сопоставления хешированных изображений с известным контентом такого рода из различных баз данных.
Результаты исследований команды из Стэнфорда, представленные соответствующим некоммерческим организациям в США и Канаде, подчеркивают острую необходимость в более строгих мерах по отбору обучающих наборов данных для ИИ. Исследователи предлагают использовать такие инструменты, как PhotoDNA, для будущих компиляций наборов данных с целью фильтрации вредоносного контента. Однако они также указывают на сложности очистки открытых наборов данных, особенно в отсутствие централизованного органа, предоставляющего эти данные.
В ответ на этот отчет LAION (Large-scale Artificial Intelligence Open Network) временно удалила свои наборы данных, чтобы обеспечить их безопасность перед повторной публикацией. LAION подчеркнула свою политику абсолютной нетерпимости к незаконному контенту и необходимость проявлять осторожность при обращении с такими конфиденциальными материалами.
Более широкие последствия и ответные меры
Эта проблема не ограничивается рассматриваемым набором данных. В отчете Стэнфордского университета говорится, что даже небольшое количество изображений, содержащих элементы насилия, может существенно повлиять на инструменты искусственного интеллекта, позволяя им создавать тысячи дипфейков. Это представляет глобальную угрозу для молодежи и детей, поскольку не только увековечивает, но и усиливает насилие над реальными жертвами.
Стремительный вывод на рынок многих проектов в области генеративного искусственного интеллекта подвергся критике, и такие эксперты, как главный технолог Стэнфордской интернет-обсерватории Дэвид Тиль, выступают за более тщательный подход к составлению наборов данных. Тиль подчеркивает, что подобный масштабный сбор данных из интернета должен ограничиваться исследовательскими проектами и не должен публиковаться в открытом доступе без тщательной проверки.
В свете этих выводов компания Stability AI, один из основных пользователей набора данных LAION, предприняла шаги по снижению рисков злоупотребления. Новые версии её модели Stable Diffusion были разработаны таким образом, чтобы усложнить создание вредоносного контента. Однако более старая версия, выпущенная в прошлом году, по-прежнему представляет риски и широко используется в других приложениях.
Международная реакция на эту проблему была различной. В Соединенных Штатах правительство создает институт безопасности ИИ для оценки рисков, связанных с моделями ИИ. Аналогичным образом, Австралия внедряет новые алгоритмы для предотвращения распространения созданных ИИ материалов о сексуальном насилии над детьми. В Великобритании ведущие разработчики ИИ согласились сотрудничать с правительствами для тестирования новых моделей перед их выпуском.
На глобальном саммите по безопасности ИИ в Великобритании более 25 стран, включая США и Индию, а также Европейский союз, подписали «Блетчлийскую декларацию». Это соглашение направлено на установление общего подхода к надзору за ИИ, подчеркивая приверженность международного сообщества ответственному управлению рисками, связанными с ИИ.
Обнаружение детской порнографии в обучающих наборах данных для ИИ вызывает серьезные этические опасения и вопросы безопасности. Это подчеркивает необходимость более строгих механизмов проверки и мониторинга данных при разработке технологий ИИ. По мере того, как ИИ продолжает развиваться и проникать в различные аспекты жизни, обеспечение этичного использования и безопасного внедрения этих технологий становится все более важным.
