ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Наборы данных для обучения ИИ содержат тревожные уровни материалов сексуального насилия над детьми

АвторДеррик КлинтонДеррик Клинтон 2 мин. чтения
Детская сексуальная эксплуатация

Детская сексуальная эксплуатация

  • Исследование Стэнфордского университета показывает, что модели ИИ, такие как Stable Diffusion, обучались на наборах данных, содержащих материалы сексуальной эксплуатации детей, что вызывает этические опасения.
  • Исследователи оперативно сообщают URL-адреса изображений с материалами сексуальной эксплуатации детей в NCMEC и C3P, подчеркивая необходимость ответственного обращения с данными для ИИ.
  • Расследование SIO освещает проблемы очистки открытых наборов данных, призывая к будущим мерам предосторожности и сотрудничеству с организациями по защите детей.

В недавнем расследовании, проведенном Стэнфордской интернет-обсерваторией (SIO), в открытом наборе данных, используемом для обучения популярных моделей генерации изображений по тексту, включая Stable Diffusion, были обнаружены сотни известных изображений материалов сексуального насилия над детьми (CSAM). Эти выводы освещают тревожное использование открытых наборов данных в разработке передовых моделей искусственного интеллекта (ИИ).

Раскрытие тревожных источников обучающих данных

Расследование SIO выявило, что эти модели ИИ были обучены непосредственно на CSAM, присутствующем в наборе данных LAION-5B, который состоит из миллиардов изображений, полученных из различных платформ, включая популярные сайты социальных сетей и популярные сайты для взрослых. Это открытие вызывает опасения по поводу непреднамеренного продолжения эксплуатации детей через использование наборов данных, загрязненных незаконным и вредным контентом.

Быстрые действия по решению проблемы

Обнаружив источник материала, исследователи инициировали процесс удаления, сообщив URL-адреса изображений в Национальный центр пропавших и эксплуатируемых детей (NCMEC) в США и Канадский центр защиты детей (C3P). Использование инструментов хеширования, таких как PhotoDNA, сыграло ключевую роль в сопоставлении отпечатков изображений с базами данных, поддерживаемыми некоммерческими организациями, посвященными борьбе с онлайн-сексуальной эксплуатацией и насилием над детьми.

Проблемы с очисткой открытых наборов данных

Хотя существуют методы минимизации присутствия CSAM в обучающих наборах данных, отчет подчеркивает сложности с очисткой или остановкой распространения открытых наборов данных, не имеющих центрального органа. Отсутствие хостинговой организации для этих наборов данных усложняет усилия по обеспечению их целостности и безопасности. Исследование подчеркивает необходимость проактивных мер для предотвращения непреднамеренного включения незаконного контента в обучающие данные ИИ.

Рекомендации по безопасности для будущей работы с наборами данных

В свете этих выводов в отчете изложены рекомендации по обеспечению безопасности при сборе наборов данных, обучении моделей и размещении моделей, обученных на данных, полученных путем скрейпинга. В нем рекомендуется проводить тщательную проверку изображений на наличие материалов сексуального насилия над детьми (CSAM) с использованием таких инструментов обнаружения, как PhotoDNA от Microsoft. Также рекомендуется сотрудничество с организациями по защите детей, такими как NCMEC и C3P, чтобы обеспечить этичное и законное использование технологий искусственного интеллекта.

По мере дальнейшего развития технологий искусственного интеллекта ответственная обработка обучающих наборов данных становится первостепенной задачей для предотвращения непреднамеренного участия в незаконной деятельности. Расследование SIO стало предупреждением для сообщества ИИ, призывающим заинтересованные стороны принять строгие меры в области курирования наборов данных, обучения моделей и сотрудничества с соответствующими агентствами по защите детей.

В ответ на эти откровения сообществу ИИ предлагается пересмотреть свои этические стандарты и предпринять решительные действия для устранения непреднамеренного использования материалов сексуального насилия над детьми (CSAM) в обучающих наборах данных. Внедряя рекомендуемые меры безопасности, отрасль может способствовать развитию технологий ИИ ответственным и этичным образом, защищаясь от непредвиденных последствий неконтролируемых источников наборов данных.

Выводы расследования SIO подчеркивают важность бдительности в эпоху, когда технологические достижения должны сопровождаться сильной приверженностью этичному развитию искусственного интеллекта. Сотрудничество между исследователями, лидерами отрасли и организациями по защите детей имеет решающее значение для обеспечения того, чтобы технологии ИИ развивались в соответствии с общественными ценностями и ставили благополучие уязвимых лиц на первое место.

Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.

Поделиться статьёй

Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем провести независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любого инвестиционного решения.

Деррик Клинтон

Деррик Клинтон

Деррик — фрилансер, интересующийся блокчейном и криптовалютой. Он специализируется на проблемах и решениях криптопроектов, предоставляя аналитический обзор рынка для инвесторов. Деррек применяет свои аналитические способности к тезисам.

ЕЩЁ … НОВОСТИ