KI-Studie deckt anhaltende rassistische Verzerrung in Sprachmodellen auf

In einer Studie, die von Forschern des Allen Institute for AI, der Stanford University und der University of Chicago durchgeführt wurde, sind Erkenntnisse über rassistische Verzerrungen in beliebten Large Language Models (LLMs) zutage getreten, darunter OpenAIs GPT-4 und GPT-3.5.

Die Studie, die in einer Veröffentlichung auf dem arXiv-Vorabdruckserver detailliert beschrieben wurde, konzentrierte sich darauf, zu untersuchen, wie diese LLMs auf verschiedene Dialekte und kulturelle Ausdrucksweisen reagieren, insbesondere auf African American English (AAE) und Standard American English (SAE). Durch eine Reihe von Experimenten fütterten die Forscher Textdokumente sowohl in AAE als auch in SAE in KI-Chatbots und forderten sie auf, Rückschlüsse auf die Autoren zu ziehen und Kommentare abzugeben.

Die Ergebnisse waren alarmierend und zeigten eine konsistente Verzerrung in den Antworten der KI-Modelle. Texte in AAE wurden konsequent mit negativen Stereotypen konfrontiert, die die Autoren als aggressiv, unhöflich, unwissend und verdächtig darstellten. Im Gegensatz dazu lösten Texte in SAE positivere Reaktionen aus. Diese Verzerrung erstreckte sich über Persönlichkeitsmerkmale hinaus und beeinflusste die Wahrnehmung beruflicher Fähigkeiten und des rechtlichen Status.

Auswirkungen auf verschiedene Berufe und rechtliche Bereiche

Wenn man nach potenziellen Karrieremöglichkeiten fragte, verbanden die Chatbots AAE-Texte mit niedrig bezahlten Jobs oder Bereichen, die stereotyp mit Afroamerikanern in Verbindung gebracht werden, wie Sport oder Unterhaltung. Darüber hinaus wurde Autoren von AAE-Texten oft nahegelegt, dass sie eher mit rechtlichen Konsequenzen konfrontiert sein könnten, einschließlich härterer Strafen wie der Todesstrafe.

Interessanterweise waren die Antworten positiv, als man aufgefordert wurde, Afroamerikaner in allgemeinen Begriffen zu beschreiben, wobei Adjektive wie „intelligent“, „brillant“ und „leidenschaftlich“ verwendet wurden. Diese Diskrepanz unterstreicht die nuancierte Natur der Verzerrung, die kontextabhängig auftritt, insbesondere in Bezug auf Annahmen über das Verhalten oder die Merkmale von Personen basierend auf ihrer Sprachverwendung.

Die Studie zeigte auch, dass je größer das Sprachmodell ist, desto ausgeprägter ist die negative Voreingenommenheit gegenüber Autoren von Texten in African American English. Diese Beobachtung wirft Bedenken hinsichtlich der Skalierbarkeit von Voreingenommenheit in KI-Systemen auf und deutet darauf hin, dass eine einfache Vergrößerung der Sprachmodelle ohne Behandlung der Ursachen das Problem verschärfen kann.

Herausforderungen bei der ethischen KI-Entwicklung

Diese Ergebnisse unterstreichen die erheblichen Herausforderungen bei der Entwicklung ethischer und unvoreingenommener KI-Systeme. Trotz technologischer Fortschritte und Bemühungen, Vorurteile abzubauen, durchdringen tief verwurzelte Verzerrungen weiterhin diese Modelle und spiegeln potenziell gesellschaftliche Stereotype wider.

Die Forschung betont die Bedeutung kontinuierlicher Wachsamkeit, diverser Datensätze und inklusiver Trainingsmethoden, um KI zu schaffen, die der gesamten Menschheit gerecht wird. Sie dient als deutliche Erinnerung an die kritische Notwendigkeit, Verzerrungen in der KI-Entwicklung umfassend anzugehen, um gerechte Ergebnisse für alle Individuen zu gewährleisten.

Die Studie wirft Licht auf einen kritischen Aspekt der KI-Entwicklung und drängt Stakeholder dazu, sich der Verzerrung zu stellen und sie anzugehen, um eine gerechtere und ausgewogenere technologische Landschaft aufzubauen.