Тревожная реальность предвзятости генераторов изображений на базе ИИ в хирургической визуализации: исследование выявляет гендерное и расовое неравенство
- Недавнее исследование, опубликованное в JAMA Network Surgery, вскрывает значительную предвзятость в генераторах изображений на основе ИИ: более 98% изображений представляют хирургов как белых мужчин.
- Исследование выявляет диспропорции в представлении женщин и хирургов неевропеоидной внешности, усиливая существующие в обществе стереотипы в области хирургии.
- Исследование подчеркивает необходимость внедрения защитных механизмов и надежных систем обратной связи для предотвращения закрепления генераторами текстовых запросов в изображениях стереотипов о профессиях, таких как хирургия.
В ходе прорывного открытия недавнее исследование, опубликованное в JAMA Network Surgery, раскрыло тревожную предвзятость, присутствующую в генераторах изображений на базе ИИ, особенно в сфере хирургической визуализации. Исследование, проведенное в мае 2023 года, тщательно изучает проявления гендерного и расового неравенства при программировании текстово-изобразительных генераторов искусственного интеллекта (ИИ), обнажая тревожное преобладание белых мужчин-хирургов в сгенерированных изображениях.
Исследование подвергает генераторы изображений на базе ИИ строгому анализу
Это глубокое исследование погружается в предвзятую природу популярных текстово-изобразительных генераторов ИИ, включая DALL-E 2, Stable Diffusion и Midjourney. Семь тщательных рецензентов подвергли анализу ошеломляющие 2400 изображений, охватывающих восемь хирургических специальностей, все из которых были тщательно обработаны каждым генератором ИИ. Дополнительные 1200 изображений были созданы с использованием географических промптов для Нигерии, Соединенных Штатов и Китая. Общая цель заключалась в тщательной оценке того, насколько точно генераторы отражают социальные предубеждения относительно демографических характеристик хирургов и стажеров-хирургов.
Комплексное исследование подвергло анализу сгенерированные изображения в сравнении с демографическими характеристиками хирургов и стажеров-хирургов в Соединенных Штатах, выявив ошеломляющие и значительные различия. Белые и мужчины были непропорционально представлены среди штатных хирургов, в то время как женщины и небелые были явно недопредставлены. Генераторы ИИ, особенно Midjourney и Stable Diffusion, не смогли точно отразить разнообразие, наблюдаемое в тщательном анализе фактических демографических данных.
Предвзятые изображения и насущная необходимость мер защиты
DALL-E 2, при тщательном использовании промпта с лицом хирурга, продемонстрировал способность создавать изображения, которые точно отражают демографические данные как для женщин, так и для небелых людей. Однако две другие модели, Midjourney и Stable Diffusion, резко продемонстрировали глубокую недопредставленность этих групп, с точностью, упавшей ниже 2%. Было обнаружено, что географические промпты немного улучшили представление небелых хирургов, но оказали пренебрежимо малое влияние на представление женщин.
Эти грандиозные выводы подтверждают общие последствия использования генераторов искусственного интеллекта (ИИ), с ошеломляющим открытием, что подавляющее большинство (две трети) увековечивает и распространяет существующие социальные предубеждения, непропорционально изображая практикующих хирургов как лиц, принадлежащих к демографическим категориям кавказской расы и мужского пола. Глубокие последствия таких предвзятых изображений в сфере визуальных представлений, созданных ИИ, имеют колоссальное значение, особенно в контексте таких профессий, как хирургия, где важность разнообразия играет первостепенную роль в содействии инновационным практикам и создании равнодоступной системы здравоохранения.
Ясный вывод, исходящий из этого комплексного исследования, безоговорочно подчеркивает необходимость срочного внедрения надежных мер защиты и сложных систем обратной связи. Эти меры считаются необходимыми для предотвращения непреднамеренного усугубления укоренившихся стереотипов и устранения непреднамеренного вклада в увековечивание предубеждений, закрепленных в профессиональных сферах, посредством генерации текстово-изобразительных данных на базе ИИ.
Смягчение предвзятости генераторов изображений на базе ИИ для инклюзивных профессиональных ландшафтов
По мере того как мы ориентируемся в постоянно меняющемся ландшафте искусственного интеллекта, исследование поднимает глубокие и критические вопросы об этических последствиях предвзятых генераторов изображений на базе ИИ. Как мы можем убедиться, что эти технологии непреднамеренно не укрепляют существующие стереотипы и не способствуют недопредставленности определенных групп, увековечивая неравенство в профессиональных ландшафтах? Призыв к созданию защитных механизмов и систем обратной связи становится не только необходимым, но и моральным императивом для решения многогранных проблем, posed генераторами текстово-изобразительных данных на базе ИИ, и продвижения справедливости, точности и инклюзивности при изображении разнообразных профессиональных ландшафтов.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
