Generative KI-Modelle kodieren Vorurteile und fabrizieren unsinnige Informationen, Forschung zeigt

In den letzten Monaten haben generative KI-Modelle wie ChatGPT, Googles Bard und Midjourney bei Einzelpersonen für persönliche und berufliche Zwecke zunehmend an Popularität gewonnen. Allerdings deckt die Forschung eine beunruhigende Tendenz auf: Diese Modelle verankern Vorurteile und negative Stereotype in ihren Nutzern und generieren sowie verbreiten gleichzeitig unsinnige, aber scheinbar genaue Informationen. 

Die Folgen dieses Phänomens sind für marginalisierte Gruppen besonders schwerwiegend, die eine unverhältnismäßige Last der Verbreitung fabrizierter Informationen tragen. Da diese Modelle im World Wide Web immer verbreiteter werden, gibt es wachsende Bedenken, dass sie menschliche Überzeugungen beeinflussen könnten. Ein neuer Perspective-Artikel, der im Journal Science veröffentlicht wurde, unterstreicht die dringende Notwendigkeit der Zusammenarbeit zwischen Psychologen und Machine-Learning-Experten, um das Ausmaß dieses Problems zu bewerten und Lösungen zu entwickeln.

Abeba Birhane, außerordentliche Assistenzprofessorin an der Trinity School of Computer Science and Statistics und Senior Fellow in Trustworthy AI bei der Mozilla Foundation, erklärt, dass generative Modelle die Fähigkeit zur Kommunikation von Unsicherheit fehlen, was zu selbstbewussten und flüssigen Antworten ohne angemessene Qualifizierer oder Darstellungen von Zweifel führt. Folglich können Einzelpersonen diese Antworten als faktisch korrekt akzeptieren, was zu einer Verzerrung von Überzeugungen führt. Darüber hinaus incentivieren finanzielle und Haftungsinteressen Unternehmen, generative Modelle als intelligent, empathisch oder sogar kindlich zu anthropomorphisieren, was das Problem verschärft.

Unverhältnismäßige Auswirkungen auf marginalisierte Gruppen

Die Auswirkungen von Vorurteilen und fabrizierten Informationen sind unter marginalisierten Bevölkerungsgruppen besonders ausgeprägt. Die Studie betont die Bedeutung detaillierter Analysen, um die Auswirkungen generativer Modelle auf menschliche Überzeugungen und Vorurteile zu messen. Durch den Fokus auf marginalisierte Gemeinschaften, die am stärksten von Fabrications und negativen Stereotypen in Modellausgaben betroffen sind, können zukünftige Studien und Interventionen diese Probleme effektiv angehen.

Ein konkretes Beispiel, das in der Perspective diskutiert wird, bezieht sich auf die Verwendung generativer KI-Modelle im Rechtssystem. Statistische Regularitäten innerhalb dieser Modelle haben dazu geführt, dass schwarzen Angeklagten höhere Risikoscores zugewiesen wurden. Folglich können Gerichtsurrichter, die diese Muster internalisiert haben, ihre Urteilspraktiken ändern, um sich an die Vorhersagen der Algorithmen anzupassen. Selbst wenn Vorschriften implementiert werden, um die Nutzung solcher Systeme einzuschränken, kann dieser Mechanismus des statistischen Lernens den Glauben aufrechterhalten, dass schwarze Personen eher rückfällig werden.

Herausforderungen bei der Überwindung von Vorurteilen und Fabrications

Sobald Vorurteile und fabrizierte Informationen von Einzelpersonen akzeptiert wurden, werden sie schwer zu zerstreuen. Kinder sind besonders anfällig, da sie eher dazu neigen, Technologie zu anthropomorphisieren und leicht beeinflussbar sind. In Anerkennung dessen sollten Anstrengungen unternommen werden, die Öffentlichkeit, politische Entscheidungsträger und interdisziplinäre Wissenschaftler über die Funktionsweise generativer KI-Modelle aufzuklären, bestehende Desinformation zu zerstreuen und übertriebene Behauptungen im Zusammenhang mit diesen Technologien zu widerlegen.

Der Perspective-Artikel betont die Bedeutung einer schnellen und umfassenden Analyse, um die Auswirkungen generativer Modelle auf menschliche Überzeugungen und Vorurteile zu bewerten. Er fordert zudem gezielte Interventionen und Ressourcen, um die Auswirkungen auf marginalisierte Bevölkerungsgruppen abzumildern. Darüber hinaus sollten Bildungs- und Aufklärungskampagnen durchgeführt werden, um realistische Einblicke in die Funktionsweise dieser KI-Modelle zu bieten und Missverständnisse sowie übertriebene Erwartungen hinsichtlich ihrer Fähigkeiten zu korrigieren.

Während generative KI-Modelle weit verbreitet eingesetzt werden, stellen die Kodierung von Vorurteilen und die Erfindung unsinniger Informationen erhebliche Bedenken dar. Marginalisierte Gemeinschaften sind unverhältnismäßig stark betroffen, was bestehende Ungleichheiten verschärft. Die Zusammenarbeit zwischen Psychologen und Machine-Learning-Experten ist entscheidend, um das Ausmaß dieses Problems zu bewerten und wirksame Lösungen zu entwickeln. Durch das Verständnis der Auswirkungen generativer Modelle auf menschliche Überzeugungen und Vorurteile wird es möglich, die in diesen KI-Systemen eingebetteten Verzerrungen und Fälschungen anzugehen und zu korrigieren.