Скандал вокруг датасета изображений для ИИ: материалы сексуального насилия над детьми вызывают тревогу
- AI-датасет LAION-5B, критически важный для обучения моделей, оказался содержащим подозрительные изображения детской порнографии, что привело к их удалению и началу расследования.
- Модель искусственного интеллекта Stable Diffusion заявляет, что встроенные фильтры предотвращают появление незаконного контента, отвечая на опасения, вызванные скандалом вокруг датасета LAION-5B.
- Вокруг AI-датасетов, таких как LAION-5B, сохраняются правовые неопределённости: исследование выявило сложности в различении контента, созданного ИИ, и реального незаконного контента.
Согласно недавнему раскрытию информации, Стэнфордская интернет-лаборатория (Stanford Internet Observatory) обнаружила тревожную реальность в сфере разработки искусственного интеллекта (ИИ). Крупнейший датасет изображений, используемый для обучения моделей генерации изображений ИИ, LAION-5B, оказался содержащим 3226 изображений, подозреваемых в принадлежности к материалам сексуального насилия над детьми (CSAM). Это раскрытие побудило LAION быстро отозвать свой датасет из публичного доступа, пообещав обеспечить его тщательную проверку для устранения любого небезопасного контента.
Тревожное открытие в датасете LAION-5B
LAION-5B, датасет с открытым исходным кодом, состоящий из более чем 5,8 миллиардов пар URL-адресов онлайн-изображений и соответствующих описаний, служит краеугольным камнем для обучения различных моделей ИИ, включая широко популярную Stable Diffusion. Созданный путем скрейпинга интернета с использованием Common Crawl, датасет подвергся проверке, когда исследователи под руководством Дэвида Тиэля из Стэнфорда использовали классификаторы NSFW LAION и PhotoDNA, распространенный инструмент модерации контента. Их расследование выявило тревожное присутствие подозреваемых материалов CSAM в датасете, что потребовало немедленных действий.
Распутывание процесса обучения ИИ
Процесс обучения ИИ включает использование обширных датасетов, таких как LAION-5B, позволяя моделям обучаться и генерировать контент. Stable Diffusion, заметная модель ИИ в этом ландшафте, заверила 404 Media, что внутренние фильтры настроены на удаление незаконных и оскорбительных материалов из данных, используемых для обучения. Кроме того, компания утверждает, что эти фильтры распространяются и на генерируемый вывод, обеспечивая отсутствие незаконного контента как во входных запросах, так и в сгенерированных ИИ изображениях.
Правовые неопределенности и этические дилеммы
Легальность вокруг таких датасетов, как LAION-5B, становится серой зоной в соответствии с федеральным законодательством США. Хотя владение и передача материалов сексуального насилия над детьми (CSAM) unequivocally незаконны, датасет, содержащий только URL-адреса, а не сами изображения, запутывает ситуацию. Более широкая проблема заключается в растущей сложности различения сгенерированного ИИ CSAM от реального незаконного контента. С распространением ИИ решение таких проблем требует сотрудничества между законодателями, правоохранительными органами, технологической отраслью, академическими кругами и обществом в целом.
Растущая угроза генерируемых ИИ материалов сексуального насилия над детьми
Хотя количество отмеченных изображений в огромном наборе данных LAION-5B может казаться статистически незначительным (3 226 из 5,8 млрд), потенциальное влияние на модели генеративного ИИ весьма существенно. Размытие границы между подлинными материалами сексуального насилия над детьми и их ИИ-аналогами подчеркивает насущность необходимости комплексного решения этой проблемы. По мере дальнейшего развития ИИ смягчение рисков, связанных с загрязненными обучающими данными, становится императивом.
К решению: многоуровневый подход
Исследование, проведенное Дэвидом Тилем и его командой, подчеркивает необходимость многогранного подхода к решению более темных последствий распространения ИИ. Решения должны исходить из законодательных мер, стратегий правоохранительных органов, лучших отраслевых практик, академических исследований и осведомленности общества. Сотрудничество этих заинтересованных сторон имеет решающее значение для ответственного управления сложным ландшафтом развития ИИ.
Ориентирование в темной стороне развития ИИ
Споры вокруг набора данных LAION-5B служат суровым напоминанием об этических вызовах, сопровождающих стремительную эволюцию ИИ. Пересечение технологий и благополучия общества требует проактивных и совместных усилий, чтобы обеспечить этическую обоснованность развития ИИ и его соответствие правовым нормам. В ближайшие годы несомненно будет предпринято согласованное усилие со всех сторон для решения и исправления тревожных последствий, выявленных исследованием Стэнфордской интернет-обсерватории. Тем самым коллективная ответственность за защиту от misuse (неправомерного использования) технологии ИИ становится как никогда важной.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Эдит Патрик
Эдитах — универсальный финтех-аналитик с глубоким пониманием блокчейн-доменов. Её, как и технологии, поражает пересечение технологий и финансов. Её особый интерес к цифровым кошелькам и блокчейну помогает её аудитории.
