Отчет Стэнфорда выявляет детское порно в данных для обучения ИИ

Стэнфордская интернет-обсерватория сделала тревожное открытие: более 1000 поддельных изображений сексуального насилия над детьми в LAION-5B, наборе данных, используемом для обучения генераторов изображений ИИ. Это открытие, ставшее публичным в апреле, вызвало серьезные опасения относительно источников и методов, используемых для составления обучающих материалов для ИИ.

LAION-5B, связанный с лондонской Stability AI и её генератором изображений Stable Diffusion, накопил эти изображения путем выборки контента из социальных сетей и порнографических сайтов. Обнаружение такого контента в обучающих материалах ИИ вызывает тревогу, учитывая широкое использование этих платформ и их потенциальное влияние.

Решение проблемы с помощью технологий

Исследователи из Стэнфорда, в своем стремлении выявить эти изображения, не просматривали оскорбительный контент напрямую. Вместо этого они использовали технологию Microsoft PhotoDNA, инструмент, предназначенный для обнаружения изображений сексуального насилия над детьми путем сопоставления хэшированных изображений с известным оскорбительным контентом из различных баз данных.

Выводы команды Стэнфорда, переданные соответствующим некоммерческим организациям в США и Канаде, подчеркивают срочную необходимость более строгих мер при курировании наборов данных для обучения ИИ. Исследователи предлагают использовать такие инструменты, как PhotoDNA, для будущих компиляций наборов данных, чтобы фильтровать вредный контент. Однако они также отмечают сложности с очисткой открытых наборов данных, особенно в отсутствие централизованного органа хостинга.

В ответ на отчет LAION, или Large-scale Artificial Intelligence Open Network, временно удалила свои наборы данных, чтобы обеспечить их безопасность перед повторной публикацией. LAION подчеркнула свою политику нулевой терпимости к незаконному контенту и необходимость осторожности при работе с такими чувствительными материалами.

Более широкие последствия и реакции

Эта проблема не ограничивается только рассматриваемым набором данных. Стэнфордский отчет предполагает, что даже небольшое количество оскорбительных изображений может значительно повлиять на инструменты ИИ, позволяя им генерировать тысячи дипфейков. Это представляет глобальную угрозу для молодежи и детей, так как не только поддерживает, но и усиливает насилие над реальными жертвами.

Стремительный выход на рынок многих проектов генеративного ИИ подвергся критике, при этом эксперты, такие как главный технолог Стэнфордской интернет-обсерватории Дэвид Тил, выступают за более тщательное внимание к компиляции наборов данных. Тил подчеркивает, что такое масштабное сканирование интернета должно ограничиваться исследовательскими операциями и не должно открываться без тщательной проверки.

В свете этих открытий Stability AI, известный пользователь набора данных LAION, предприняла шаги по снижению рисков misuse. Более новые версии её модели Stable Diffusion были разработаны так, чтобы затруднить создание вредного контента. Однако более старая версия, выпущенная в прошлом году, по-прежнему представляет риски и широко используется в других приложениях.

Международные реакции на эту проблему варьировались. В США правительство запускает институт безопасности ИИ для оценки рисков, posed моделями ИИ. Аналогично, Австралия внедряет новые алгоритмы для предотвращения распространения материалов сексуального насилия над детьми, созданных ИИ. В Великобритании ведущие разработчики ИИ согласились сотрудничать с правительствами для тестирования новых моделей перед их выпуском.

На глобальном саммите по безопасности ИИ в Великобритании более 25 стран, включая США и Индию, а также Европейский союз, подписали «Блетчлийскую декларацию». Это соглашение направлено на установление общего подхода к надзору за ИИ, подчеркивая приверженность международного сообщества ответственному управлению рисками ИИ.

Обнаружение детского порнографии в наборах данных для обучения ИИ поднимает глубокие этические и вопросы безопасности. Это подчеркивает необходимость более строгой курировки данных и механизмов мониторинга в разработке технологий ИИ. По мере того как ИИ продолжает развиваться и проникать в различные аспекты жизни, обеспечение этичного использования и безопасного развертывания этих технологий становится все более важным.