Unbewusste rassistische Vorurteile: Warum versagt KI bei Menschen mit dunkler Hautfarbe?

Die KI-Technologie erklimmt langsam die Leiter des „Hyperrealismus“. Jüngste Studienergebnisse zeigten, dass KI Bilder erzeugen kann, die für Menschen realistischer erscheinen als tatsächliche Bilder von realen Personen.

KI generiert bessere Gesichter von weißen Menschen

In der Studie wurden die Teilnehmer (ausschließlich Weiße) gebeten, 100 Bilder von echten und KI-generierten Gesichtern zu unterscheiden. Einige Teilnehmer empfanden die KI-Bilder als „realistischer“ als die echten Gesichter.

„Wir waren so überrascht, dass einige KI-Gesichter als hyperrealistisch wahrgenommen wurden, dass unser nächster Schritt darin bestand, unsere Ergebnisse aus der erneuten Analyse der Daten von Nightingale & Farid an einer neuen Stichprobe von Teilnehmern zu replizieren“, sagte Amy Dawel, klinische Psychologin und Dozentin an der Australian National University, die hinter der Studie steht.

Die Studie beleuchtete einige beunruhigende Aspekte des Hyperrealismus der KI – rassistische Voreingenommenheit. 

Ist KI unbewusst rassistisch voreingenommen?

Die KI war erfolgreicher bei der Generierung realistischerer Gesichter von weißen Menschen als von farbigen Menschen, was laut Dawel auf den Mangel an vielfältigen Trainingsdaten und Algorithmen zurückzuführen ist – d. h. die Algorithmen wurden überproportional mit Gesichtern von weißen Menschen trainiert, wodurch sie unbewusst eine Voreingenommenheit gegenüber weißen Merkmalen entwickelten.

Dawel befürchtet, dies könnte soziale Probleme weiter verschärfen. Wenn KI People of Color durchgehend als unheimlich darstellt, könnte dies negative Stereotype verfestigen und bestehende Vorurteile gegenüber ihrem Aussehen und ihrer Authentizität verstärken.

Eine weitere dringliche Sorge, die sich aus der Studie ergibt, ist der mögliche Anstieg von Deepfakes. Angesichts der vielen Menschen, die KI-Bilderdentfür „echt“ hielten, befürchtet Dawel, dass viele durch gefälschte Bilder getäuscht werden könnten, wenn diese in die falschen Hände geraten. 

„Ein Großteil der neuen KI ist jedoch nicht so transparent, und die Investitionen in die KI-Industrie sind enorm, während die Mittel für die Wissenschaft, die sie überwacht, minimal, schwer zu beschaffen und langsam sind“, sagte Dawel.