Исследование выявило предвзятость ИИ в восприятии престижа профессии

Недавнее исследование, проведенное Международной организацией труда (МОТ), посвящено использованию искусственного интеллекта (ИИ) для оценки престижа и социальной ценности различных профессий, проливая свет как на его потенциальные преимущества, так и на проблемы. 

В исследовании под названием «Технологическое конструирование общества: сравнение GPT-4 иdentполученных от людей, для оценки профессиональных навыков в Великобритании» сравнивались оценки, выполненные с помощью ИИ, разработанного GPT-4, большой языковой модели (LLM), с оценками, полученными от людей-dentв Соединенном Королевстве.

Сравнение оценок, полученных с помощью ИИ и человеком

В этом новаторском исследованииdentиз Великобритании первоначально было предложено оценить престиж и социальную ценность различных профессий. Впоследствии GPT-4 было поручено составить аналогичную оценку, имитируя точку зрения 100 случайныхdent, каждый из которых представлял «средний профиль британца» 

Целью исследования было оценить, насколько точно оценки системы искусственного интеллекта соответствуют оценкам участников-людей, а также выявить наличие у ИИ каких-либо демографических искажений.

Примечательно, что исследование выявило значительную корреляцию между результатами, полученными с помощью этих двух различных подходов. GPT-4 продемонстрировалtronэффективность в прогнозировании средних взглядов жителей Великобритании на престиж и социальную ценность отдельных профессий, эффективно создавая относительные рейтинги профессий. 

Способность алгоритмически понимать общие мнения людей открывает потенциал для того, чтобы ИИ внес вклад в исследования в области профессиональной деятельности, предлагая такие преимущества, как повышение эффективности, экономичности, скорости и точности в сборе информации о общественном восприятии.

Сложная взаимосвязь ИИ с профессиональным престижем

Хотя исследование подчеркнуло перспективность ИИ в исследованиях в области профессиональной деятельности, оно также выявило ряд проблем. GPT-4, как правило, переоценивал престиж и ценность профессий, связанных с цифровой экономикой или требующих активного участия в маркетинге и продажах. 

И наоборот, он недооценивал престиж и социальную ценность, приписываемые некоторым незаконным или традиционно стигматизированным профессиям, по сравнению с оценками людей. Более того, когда алгоритмические инструкции ИИ подвергались манипуляциям, ему было трудно понять иерархию престижа и социальной ценности профессий, как её воспринимают демографические меньшинства в контексте Великобритании.

Значение демографических искажений

Одним из важнейших аспектов, подчеркнутых в исследовании, является наличие демографических искажений в моделях ИИ. Современные модели обработки больших языков, включая GPT-4, в основном отражают мнения западного, образованного, индустриализованного, богатого и демографически развитого населения (WEIRD). 

Эти группы, хотя и представляют собой глобальное меньшинство, внесли значительный вклад в данные, используемые для обучения моделей ИИ. В результате системы ИИ, такие как GPT-4, могут непреднамеренно исключать точки зрения демографических меньшинств или уязвимых групп.

Последствия применения ИИ в сфере труда

Результаты этого исследования имеют далеко идущие последствия для применения систем искусственного интеллекта в сфере труда. Хотя ИИ может служить ценным дополнительным инструментом, особенно при обработке огромных объемов неструктурированных текстовых, голосовых и графических данных, его ограничения необходимо тщательно учитывать. 

Это включает в себя потенциальную возможность игнорирования взглядов и мнений демографических меньшинств. В таких контекстах, как предоставление консультаций по вопросам карьеры или проведение алгоритмической оценки эффективности, исследование подчеркивает важность устранения этих ограничений и обеспечения справедливости и инклюзивности.