Генераторы ИИ-изображений закрепляют стереотипы и предвзятость: глубокое погружение в проблему
- Генерируемые ИИ изображения закрепляют вредоносные стереотипы, начиная от национальных идентичностей и заканчивая гендерными, что обнажает необходимость реформ.
- Предвзятость в генераторах ИИ-изображений проистекает из искаженных обучающих данных и языковых предубеждений, подчеркивая важность прозрачности.
- Культурное влияние предвзятых ИИ-изображений подчеркивает срочность решения этих проблем для более инклюзивного будущего.
Искусственный интеллект, несомненно, революционизировал различные отрасли, но не застрахован от предвзятости и стереотипов. Недавние расследования выявили склонность систем генеративного ИИ, таких как Midjourney, Dall-E и Stable Diffusion, закреплять стереотипы и сводить разнообразные национальные идентичности к упрощённым карикатурам.
Разоблачённая проблема
Провальный эксперимент BuzzFeed с 195 куклами Барби, сгенерированными ИИ и представляющими разные страны, ярко продемонстрировал предвзятость в ИИ-изображениях. Эти куклы демонстрировали искажённые изображения, от светлокожих азиатских Барби до неуместных представлений национальных идентичностей. Такие предвзятости распространяются и на другие приложения ИИ, от результатов поиска до систем распознавания лиц.
Стереотипизация национальной идентичности
Анализ, проведённый Rest of World с использованием Midjourney, выявил тревожные тенденции в сгенерированных ИИ изображениях. При запросе на создание изображений людей, домов, улиц или еды, связанных с разными странами, результаты часто сводили разнообразные национальные идентичности к вредным стереотипам.
Нигериец: Сгенерированные ИИ изображения lacked specificity, не передавая разнообразие этнических групп, одежды и религиозных различий Нигерии.
Индиец: Изображения преимущественно изображали пожилых людей в традиционной одежде, закрепляя стереотипы об индийской культуре.
Мексиканец: Почти все изображения содержали сомбреро или похожие шляпы, создавая одномерное представление о мексиканской идентичности.
Американец: Флаги США доминировали на всех изображениях, акцентируя внимание на одном аспекте американской идентичности.
Гендерная предвзятость: Явная гендерная предвзятость была очевидна во всех запросах, поскольку большинство изображений изображали мужчин.
Причины предвзятости
Предвзятость в сгенерированных ИИ изображениях в основном проистекает из обучающих данных. Эти системы обучаются на огромных наборах данных с подписанными изображениями, которые по своей природе содержат предвзятость. Кроме того, человеческие аннотаторы могут вносить предвзятость при маркировке изображений по стране или этнической принадлежности. Языковая предвзятость в наборах данных, которые часто отдают предпочтение английскому языку, также способствует решению этой проблемы.
Культурное влияние
Сгенерированные ИИ изображения могут формировать общественное мнение и влиять на различные отрасли. В рекламе и медиа, где представление разнообразия улучшилось, небрежное использование генеративного ИИ может свести на нет эти усилия. Кроме того, генераторы ИИ-изображений могут негативно сказаться на маргинализированных сообществах, повлияв на их доступ к трудоустройству, здравоохранению и финансовым услугам.
Прозрачность и ответственность
Эксперты подчеркивают необходимость большей прозрачности со стороны компаний ИИ в отношении их источников данных и методологий обучения. Компании должны нести ответственность за устранение предвзятости в своих системах. Текущий подход «доверьтесь нам» необходимо заменить более подотчётными практиками.
Будущие последствия
Генераторы ИИ-изображений, будучи многообещающими инструментами для творчества и автоматизации, рискуют оттолкнуть значительные сегменты мирового населения. Если эти предвзятости не будут устранены, они могут помешать доступу разнообразных сообществ к преимуществам ИИ.
Генераторы ИИ-изображений выявили тревожные предвзятости и стереотипы в изображении национальных идентичностей и гендера. Эти проблемы возникают из-за обучающих данных и процессов аннотирования. Устранение предвзятости в системах ИИ требует прозрачности и ответственных практик со стороны компаний ИИ. По мере того как ИИ продолжает формировать визуальный ландшафт мира, крайне важно обеспечить, чтобы он точно отражал богатую палитру человеческого разнообразия, а не сводил её к вредным стереотипам.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности: Предоставленная информация не является инвестиционной рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
