Studie deckt KI-Verzerrung in der Wahrnehmung von beruflichem Prestige auf

Eine kürzlich von der Internationalen Arbeitsorganisation (ILO) durchgeführte Studie befasste sich mit dem Einsatz von künstlicher Intelligenz (KI) bei der Bewertung des Prestiges und des sozialen Werts verschiedener Berufe und beleuchtete dabei sowohl die potenziellen Vorteile als auch die Herausforderungen. 

Die Studie mit dem Titel „Eine technologische Konstruktion der Gesellschaft: Vergleich von GPT-4 und menschlichendentfür die berufliche Beurteilung in Großbritannien“ verglich KI-Bewertungen, die von GPT-4, einem großen Sprachmodell (LLM), durchgeführt wurden, mit Bewertungen von menschlichendentin Großbritannien.

Vergleich von KI- und menschlichen Beurteilungen

In dieser bahnbrechenden Studie wurden zunächstdentin Großbritannien gebeten, das Prestige und den sozialen Wert verschiedener Berufe zu bewerten. Anschließend wurde GPT-4 beauftragt, eine ähnliche Rangliste zu erstellen und dabei die Perspektiven von 100 zufällig ausgewähltendentzu simulieren, die jeweils ein „durchschnittliches britisches Profil“ repräsentierten 

Ziel der Studie war es, zu ermitteln, wie genau die Bewertungen des KI-Systems mit denen der menschlichen Teilnehmer übereinstimmten und ob die KI demografische Verzerrungen aufwies.

Die Studie ergab eine signifikante Korrelation zwischen den Ergebnissen der beiden unterschiedlichen Ansätze. GPT-4 erwies sich alstrontreffsicher bei der Vorhersage der durchschnittlichen britischen Ansichten zum Prestige und gesellschaftlichen Wert einzelner Berufe und erstellte so relative Berufsrankings. 

Diese Fähigkeit, allgemeine menschliche Meinungen algorithmisch zu verstehen, birgt das Potenzial, dass KI zur Berufsforschung beitragen kann und Vorteile wie gesteigerte Effizienz, Kosteneffektivität, Geschwindigkeit und höhere Genauigkeit bei der Erfassung gesellschaftlicher Wahrnehmungen bietet.

Die komplexe Beziehung der KI zum beruflichen Prestige

Die Studie unterstrich zwar das Potenzial von KI in der Berufsforschung, deckte aber auch einige Herausforderungen auf. GPT-4 neigte dazu, das Prestige und den Wert von Berufen im Bereich der digitalen Wirtschaft oder mit starken Marketing- und Vertriebsanteilen zu überschätzen. 

Umgekehrt unterschätzte es das Prestige und den sozialen Wert bestimmter illegaler oder traditionell stigmatisierter Berufe im Vergleich zu menschlichen Gutachtern. Darüber hinaus hatte die KI Schwierigkeiten, die Hierarchien des Prestiges und des sozialen Werts von Berufen aus der Sicht demografischer Minderheiten im britischen Kontext zu erfassen, wenn ihre algorithmischen Anweisungen manipuliert wurden.

Die Bedeutung demografischer Verzerrungen

Ein entscheidender Aspekt der Forschung ist das Vorhandensein demografischer Verzerrungen in KI-Modellen. Aktuelle große Sprachmodelle, darunter GPT-4, spiegeln primär die Ansichten westlicher, gebildeter, industrialisierter, wohlhabender und demografischer (WEIRD) Bevölkerungsgruppen wider. 

Diese Gruppen, obwohl global in der Minderheit, haben maßgeblich zu den Daten beigetragen, die für das Training von KI-Modellen verwendet werden. Daher besteht die Gefahr, dass KI-Systeme wie GPT-4 unbeabsichtigt die Perspektiven demografischer Minderheiten oder schutzbedürftiger Gruppen ausschließen.

Auswirkungen von KI auf die Arbeitswelt

Die Ergebnisse dieser Studie haben weitreichende Konsequenzen für den Einsatz von KI-Systemen in der Arbeitswelt. KI kann zwar ein wertvolles ergänzendes Werkzeug sein, insbesondere bei der Verarbeitung großer Mengen unstrukturierter Text-, Sprach- und Bilddaten, doch ihre Grenzen müssen sorgfältig berücksichtigt werden. 

Dies schließt das Potenzial ein, die Ansichten und Perspektiven demografischer Minderheiten außer Acht zu lassen. In Kontexten wie der Berufsberatung oder der Durchführung algorithmischer Leistungsbeurteilungen unterstreicht die Studie die Bedeutung der Behebung dieser Einschränkungen und der Gewährleistung von Fairness und Inklusivität.