Стартапы в сфере искусственного интеллекта используют фотографии бразильских детей для обучения моделей без их согласия

Правозащитная группа выявила, что генераторы изображений использовали миллиарды фотографий бразильских детей для обучения своих моделей искусственного интеллекта без их согласия. Организация Human Rights Watch (HRW) провела исследование, которое показало, что популярные генераторы изображений, такие как Stable Diffusion, использовали изображения детей «на протяжении всего их детства» для обучения своих моделей.

Читайте также: Технологические компании призывают бороться с резким ростом количества материалов с изображением сексуального насилия над детьми, созданных с помощью ИИ.

Исследование Human Rights Watch показало, что эти изображения были сделаны примерно в 10 штатах Бразилии. В нем говорится, что эти фотографии представляют огромную «угрозу для частной жизни детей», поскольку этот акт также увеличивает производство изображений с их изображением, полученных без их согласия.

Миллиарды изображений бразильских детей использованы для обучения моделей искусственного интеллекта

Исследовательница из Human Rights Watch Хе Чон Хан выявила проблему после анализа небольшой части (менее 0,0001%) набора данных LAION-5B, созданного на основе снимков общедоступного веб-пространства, полученных с помощью Common Crawl. Она показала , что набор данных не содержал самих фотографий, а включал «пары изображения и текста», взятые из почти 6 миллиардов изображений и подписей, опубликованных с 2008 года.

Были обнаружены детские фотографии из 10 штатов Бразилии, большинство из которых представляли собой семейные снимки, загруженные в родительские и личные блоги. Согласно отчету, это фотографии, которые пользователи интернета нечасто находят.

Читайте также: Великобритания объявит создание дипфейков сексуального характера уголовным преступлением

Организация Human Rights Watch удалила ссылки на изображения в сотрудничестве с LAION, немецкой некоммерческой организацией, создавшей этот набор данных. Однако сохраняются опасения, что набор данных может по-прежнему содержать ссылки на детские изображения со всего мира, поскольку удаление одних только ссылок не решает проблему полностью.

«Это более масштабная и вызывающая серьезную озабоченность проблема, и как волонтерская организация мы внесем свой вклад в ее решение», — заявил представитель LAION Нейт Тайлер изданию Ars.

dentдетей легко trac

В отчете Human Rights Watch также сообщается, чтоdentмногих бразильских детей можно trac, поскольку их имена и местоположение использовались в подписях к изображениям, на основе которых был создан набор данных. В нем также выражается обеспокоенность тем, что дети могут подвергаться риску издевательств со стороны сверстников, а их изображения могут быть использованы для создания контента откровенного характера.

«Проанализированные фотографии охватывают весь период детства», — говорится в части отчета.

«Они запечатлевают сокровенные моменты рождения младенцев в облаченных в перчатки руках врачей, маленьких детей, задувающих свечи на именинном cake , или танцующих дома в нижнем белье…»

HRW.

Однако Хан сообщил, что «все общедоступные версии LAION-5B были удалены», и поэтому риск использования фотографий бразильских детей теперь меньше.

По данным Human Rights Watch, набор данных не будет снова доступен до тех пор, пока LAION не убедится, что весь отмеченный контент удален. Это решение было принято после того, как в отчете также были обнаружены «ссылки в наборе данных, указывающие на незаконный контент в открытом доступе в интернете», включая более 3000 предполагаемых случаев сексуального насилия над детьми .

По меньшей мере 85 девушек в Бразилии также сообщили о том, что их одноклассники домогались их, используя искусственный интеллект для создания откровенно сексуального контента в формате дипфейк «на основе фотографий, взятых из их публикаций в социальных сетях»

Защита конфиденциальности детей

По данным Ars, набор данных LAION-5B был представлен в 2022 году, предположительно для воспроизведения набора данных OpenAI, и позиционировался как самый большой «свободно доступный набор данных изображений и текста».

Когда организация Human Rights Watch обратилась в LAION по поводу этих изображений, она ответила, что модели искусственного интеллекта, обученные на данных LAION-5B, «не могут воспроизвести данные детей дословно», хотя и признала риски для конфиденциальности и безопасности.

Затем организация начала удалять некоторые изображения, но также высказала мнение, что родители и опекуны несут ответственность за удаление личных фотографий детей из интернета. Хан не согласился с их аргументом, заявив:

«Дети и их родители не должны нести ответственность за защиту детей от технологий, от которых принципиально невозможно защититься. Это не их вина»

Хан.

Организация Human Rights Watch призвала бразильских законодателей к срочному вмешательству для защиты прав детей от влияния новых технологий. Согласно рекомендациям Human Rights Watch, необходимо принять новые законы, запрещающие сбор данных о детях для создания моделей искусственного интеллекта.

Cryptopolitan репортаж Энаси Мапакаме