Исследование выявляет предвзятость ИИ в восприятии престижа профессий

Недавнее исследование, проведенное Международной организацией труда (МОТ), подробно изучило использование искусственного интеллекта (ИИ) для оценки престижа и социальной ценности различных профессий, проливая свет как на его потенциальные преимущества, так и на проблемы.

Исследование под названием «Технологическая конструкция общества: сравнение оценок GPT-4 и человеческих респондентов для профессиональной оценки в Великобритании» сравнивало оценки, выполненные ИИ с помощью GPT-4, большой языковой модели (LLM), с оценками человеческих респондентов в Соединенном Королевстве.

Сравнение оценок ИИ и человека

В этом новаторском исследовании человеческие респонденты в Великобритании сначала были попросили ранжировать престиж и социальную ценность различных профессий. Затем GPT-4 было поручено предоставить аналогичный рейтинг, моделируя мнения 100 случайных респондентов, каждый из которых представлял «средний британский профиль». 

Целью исследования было оценить, насколько близко оценки системы ИИ совпадали с оценками человеческих участников и проявлял ли ИИ какие-либо демографические предубеждения.

Примечательно, что исследование выявило значительную корреляцию между результатами, полученными этими двумя различными методами. GPT-4 продемонстрировал высокую способность предсказывать средние британские взгляды на престиж и социальную ценность отдельных профессий, эффективно создавая относительные профессиональные рейтинги. 

Эта способность алгоритмически понимать общие человеческие мнения открывает потенциал для вклада ИИ в профессиональные исследования, предлагая такие преимущества, как повышенная эффективность, экономическая целесообразность, скорость и улучшенная точность в отражении общественных мнений.

Сложные отношения ИИ с профессиональным престижем

Хотя исследование подчеркнуло перспективы ИИ в профессиональных исследованиях, оно также выявило несколько проблем. GPT-4 склонен переоценивать престиж и ценность профессий, связанных с цифровой экономикой или тех, которые включают сильные маркетинговые и продажные компоненты. 

Напротив, он недооценивал престиж и социальную ценность, приписываемую некоторым незаконным или традиционно стигматизированным профессиям, по сравнению с человеческими оценщиками. Более того, когда алгоритмические инструкции ИИ были изменены, ему было трудно понять иерархии престижа и социальной ценности профессий, как их воспринимают демографические меньшинства в контексте Великобритании.

Значение демографических предубеждений

Одним из ключевых аспектов, подчеркнутых в исследовании, является наличие демографических предубеждений в моделях ИИ. Современные большие языковые модели, включая GPT-4, в основном отражают мнения западных, образованных, индустриализированных, богатых и демографически гомогенных (WEIRD) популяций. 

Эти группы, хотя и являются мировым меньшинством, значительно способствовали данным, используемым для обучения моделей ИИ. В результате системы ИИ, такие как GPT-4, могут непреднамеренно исключать перспективы демографических меньшинств или уязвимых групп.

Последствия для ИИ в мире труда

Выводы этого исследования имеют далеко идущие последствия для применения систем ИИ в мире труда. Хотя ИИ может служить ценным дополнительным инструментом, особенно при обработке огромных объемов неструктурированного текста, голоса и изображений, его ограничения необходимо тщательно учитывать. 

Это включает его потенциальную способность упускать взгляды и перспективы демографических меньшинств. В таких контекстах, как предоставление карьерных консультаций или проведение алгоритмических оценок производительности, исследование подчеркивает важность решения этих ограничений и обеспечения справедливости и инклюзивности.