Стартапы в сфере ИИ используют фотографии бразильских детей для обучения моделей без согласия

Адвокатская группа раскрыла, что генераторы изображений использовали миллиарды фотографий бразильских детей для обучения своих моделей ИИ без их согласия. Human Rights Watch (HRW) провела исследование, показавшее, что популярные генераторы изображений, такие как Stable Diffusion, использовали изображения детей «охватывающие все их детство» для обучения моделей.

Также читайте: Технологические компании призывают бороться с ростом ИИ-генерируемого материала сексуального насилия над детьми

Исследование HRW выявило, что эти изображения были взяты примерно из 10 бразильских штатов. В отчете сообщается, что эти фотографии представляют огромную «угрозу конфиденциальности для детей», поскольку это также увеличивает производство несанкционированных изображений с их внешностью.

Миллиарды фотографий бразильских детей использовались для обучения моделей ИИ

Исследователь HRW Хё Джун Хан выявила проблему после анализа небольшой части (менее 0,0001%) датасета LAION-5B, созданного на основе снимков Common Crawl публичного веба. Она раскрыла, что в датасете не было самих фотографий, а содержались «пары текст-изображение», взятые почти из 6 миллиардов картинок и подписей, опубликованных с 2008 года.

Были найдены фотографии детей из 10 бразильских штатов, большинство из которых представляли собой семейные снимки, загруженные на родительские блоги и личные блоги. Согласно отчету, это фотографии, на которые пользователи интернета не натыкаются легко.

Также читайте: Великобритания объявит создание сексуально откровенных дипфейков уголовным преступлением

HRW удалила ссылки на изображения в сотрудничестве с LAION, немецкой некоммерческой организацией, создавшей датасет. По-прежнему сохраняются опасения, что датасет может все еще ссылаться на изображения детей со всего мира, поскольку удаление ссылок само по себе не решает проблему полностью.

«Это более масштабная и очень тревожная проблема, и как волонтерская организация, мы сделаем свою часть работы, чтобы помочь», — сказал представитель LAION Нейт Тайлер для Ars.

Личности детей легко отследить

В отчете HRW также было раскрыто, что личности многих бразильских детей можно отследить, так как их имена и местоположения использовались в подписях, составляющих датасет. Также были выражены опасения, что дети могут стать мишенью для хулиганов, а их изображения могут использоваться для создания откровенного контента.

«Рассмотренные фотографии охватывают все детство», — говорится в части отчета.

«Они запечатлели интимные моменты: рождение младенцев в перчатках рук врачей, маленькие дети, задувающие свечи на дне рождения, или танцующие в нижнем белье дома…»

HRW.

Однако Хан раскрыла, что «все публично доступные версии LAION-5B были удалены», поэтому теперь меньше риск использования фотографий бразильских детей.

По данным HRW, набор данных не будет доступен снова, пока LAION не убедится, что весь отмеченный контент удален. Решение было принято после того, как в отчете Стэнфордского университета также «были обнаружены ссылки в наборе данных, указывающие на незаконный контент в открытом доступе», включая более 3000 подозрительных случаев детской сексуальной эксплуатации.

По крайней мере 85 девочек в Бразилии также сообщили, что их одноклассники преследуют их, используя ИИ для создания сексуально откровенных дипфейков «на основе фотографий из их социальных сетей».

Защита конфиденциальности детей

Согласно Ars, LAION-5B был представлен в 2022 году, reportedly для репликации датасета OpenAI, и позиционировался как самый большой «свободно доступный датасет текст-изображение».

Когда HRW связалась с LAION по поводу изображений, организация ответила, что модели ИИ, обученные на LAION-5B, «не могли воспроизводить данные о детях дословно», хотя и признала риски для конфиденциальности и безопасности.

Затем организация начала удалять некоторые изображения, но также выразила мнение, что родители и опекуны несут ответственность за удаление личных фотографий детей из интернета. Хан не согласилась с их аргументом, сказав:

«Дети и их родители не должны нести ответственность за защиту детей от технологии, от которой фундаментально невозможно защититься. Это не их вина».

Хан.

HRW призвала бразильских законодателей к срочному вмешательству для защиты прав детей от новых технологий. Должны быть приняты новые законы, запрещающие использование данных детей для обучения моделей ИИ, согласно рекомендациям HRW.

Материалы Cryptopolitan подготовила Энэси Мапакаме