- Отчет ЮНЕСКО показывает, что ИИ все еще имеет гендерную предвзятость, особенно в сфере здравоохранения и финансов.
- Модели ИИ часто создают сексистский контент, влияющий на усилия по обеспечению гендерного равенства.
- Нам нужны разнообразные данные и прозрачные практики в разработке ИИ для устранения предвзятости.
Недавний доклад ЮНЕСКО пролил свет на устойчивую гендерную предвзятость, поддерживаемую современными моделями искусственного интеллекта (AI). Несмотря на постоянные усилия по смягчению предубеждений, исследование показало, что системы ИИ, включая большие языковые модели (LLM), склонны усиливать социальные предубеждения, особенно в отношении гендера.
Гендерная предвзятость в моделях ИИ
В отчете было выявлено, что популярные LLM часто генерируют сексистский и мизогинный контент, отражающий социальные предрассудки. Например, при запросе предложений, упоминающих гендер и сексуальную идентичность, открытая модель Llama 2 от Meta выдавала результаты, содержащие сексистский или мизогинный язык в 20% случаев. Хотя некоторые модели ИИ, такие как ChatGPT, демонстрировали лучшее поведение, предвзятость все еще присутствовала даже после тонкой настройки.
ЮНЕСКО предупредила, что если не устранить алгоритмическую предвзятость, она может стать более глубоко укоренившейся в таких критических секторах, как здравоохранение и финансы. Предвзятые алгоритмы ИИ могут усугубить существующие гендерные неравенства в этих областях, препятствуя усилиям по достижению гендерного равенства.
Одной из значительных проблем, выделенных в отчете, является влияние предвзятых медицинских данных на системы здравоохранения на базе ИИ. Практика сбора данных исторически благоприятствовала мужским субъектам, что привело к гендерным пробелам в обучающих данных ИИ. Эта предвзятость имеет ощутимые последствия, как продемонстрировало исследование инструментов ИИ, используемых для скрининга заболеваний печени, которые пропустили 44% случаев у женщин из-за предвзятых обучающих данных, смещенных в сторону мужчин.
Устранение дисбаланса
Сэнди Картер, операционный директор Unstoppable Domains, подчеркнула важность устранения гендерного разрыва в обучающих данных ИИ. Она выступала за повышение прозрачности данных, чтобы выделить гендерные перекосы, и предложила новые подходы, такие как краудсорсинг данных о здоровье женщин или генерация синтетических данных для смягчения несоответствий.
Картер подчеркнула необходимость справедливого представительства в обучающих данных для разработки справедливых систем ИИ. Включая разнообразные источники данных и принимая прозрачность в практике сбора данных, разработчики могут работать над минимизацией предвзятости в моделях ИИ.
Доклад ЮНЕСКО служит резким напоминанием о продолжающейся проблеме гендерной предвзятости в ИИ. Для создания систем AI , которые служат всем пользователям справедливо, необходимы согласованные усилия по устранению предвзятости на каждом этапе разработки, от сбора данных до развертывания моделей.
Повышая осведомленность об этих проблемах и выступая за инклюзивные практики, заинтересованные стороны могут работать над реализацией потенциала ИИ для продвижения гендерного равенства в здравоохранении и за его пределами. Только через совместные действия и приверженность справедливости обещание технологии ИИ может быть полностью реализовано для всех людей, независимо от пола.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Джеймс Киноти
Энтузиаст криптовалют Джеймс получает удовольствие от обмена знаниями в области финтеха, криптовалют, блокчейна и передовых технологий. Его главная страсть — новейшие инновации в криптоиндустрии, криптогейминг, искусственный интеллект, технологии блокчейна и другие смежные направления. Его миссия: быть в курсе трансформационных приложений в различных отраслях.
