Warum die Verwendung von KI-Bias in der Entscheidungsfindung formidable und fatal ist

Künstliche Intelligenz (KI) macht in verschiedenen Sektoren, von der Gesundheitsversorgung bis hin zum Finanzwesen, von sich reden. Das Problem der KI-Voreingenommenheit hat sich jedoch als erhebliches Hindernis herauskristallisiert, das Fragen zur Zukunft der Technologie aufwirft. Experten argumentieren, dass Voreingenommenheit, die oft auf verzerrten oder nicht repräsentativen Trainingsdaten beruht, vielleicht die größte Herausforderung für KI darstellt. 

Das Problem der Voreingenommenheit in KI

Arthur Maccabe, Executive Director des Institute for Computation and Data-Enabled Insight an der University of Arizona, betont, dass Voreingenommenheit nicht per se problematisch ist. Sie wird erst dann zu einem Problem, wenn ein voreingenommenes System die Entscheidungsfindung beeinflusst. 

Michele Samorani, außerordentlicher Professor für Informationssysteme und Analytik an der Leavey School of Business der Santa Clara University, warnt vor der Gefahr, dass KI soziale Ungerechtigkeiten perpetuiert. Er veranschaulicht dies mit einem Beispiel einer Universität, die KI zur Vorauswahl von Bewerbungen nutzt. Wenn das KI-System mit vergangenen Zulassungsentscheidungen trainiert wurde, spiegeln sich alle menschlichen Vorurteile, die in diesen Entscheidungen vorhanden waren, in den Ergebnissen der KI wider.

Die Auswirkungen von KI-Voreingenommenheit

Alice Xiang, globale Leiterin der KI-Ethik bei der Sony Group und leitende KI-Ethik-Forschungswissenschaftlerin bei Sony AI, weist darauf hin, dass KI-Voreingenommenheit weitreichende Folgen haben kann. „Voreingenommene KI-Systeme können gesellschaftliche Stereotype verstärken, bestimmte Gruppen diskriminieren oder bestehende Ungleichheiten perpetuieren“, sagt sie. Dies kann zu diskriminierenden Praktiken in verschiedenen Sektoren führen, einschließlich Personalwesen, Gesundheitswesen und Strafverfolgung. Darüber hinaus kann Voreingenommenheit das Vertrauen in die Technologie untergraben und die Einführung von KI behindern.

Bewältigung der Herausforderung der KI-Voreingenommenheit

Xiang ist der Ansicht, dass die Bekämpfung von KI-Voreingenommenheit einen umfassenden Ansatz erfordert, der mit vielfältigen und repräsentativen Trainingsdaten beginnt. Sie betont die Bedeutung der Einbeziehung von Personen aus verschiedenen Hintergründen in die Entscheidungsfindung. 

Maccabe schlägt vor, dass die zur Schulung von KI-Systemen verwendeten Daten die gesamte Gesellschaft genau widerspiegeln sollten. Er räumt ein, dass dies möglicherweise unerreichbar ist, daher ist es entscheidend, die Voreingenommenheiten in den Trainingsdaten zu dokumentieren und die Nutzung von KI-Systemen, die mit diesen Daten trainiert wurden, auf Kontexte zu beschränken, in denen diese Voreingenommenheiten nicht kritisch sind.

Beena Ammanath, Executive Director des Deloitte AI Institute, ist der Ansicht, dass die Beseitigung von KI-Voreingenommenheit zwar schwierig, die Minimierung ihrer Auswirkungen jedoch erreichbar ist. Sie schlägt rigorose Test-, Validierungs- und Bewertungsprozesse für KI-Modelle vor, um Voreingenommenheiten zu identifizieren und zu verhindern. Der Weg 

Die Beseitigung von KI-Voreingenommenheit ist eine mühsame Aufgabe. Xiang weist darauf hin, dass das Verständnis von KI-Systemen, ihren potenziellen unbeabsichtigten Konsequenzen und der Art und Weise, wie sie Menschen schaden könnten, unerlässlich ist. Sie hebt den jüngsten Anstieg von KI-Ethik-Teams in Unternehmen hervor, die KI in ihre Produkte und Dienstleistungen integrieren. Diese Teams sind der Entwicklung und Umsetzung der besten Praktiken für die Entwicklung und Schulung von KI-Modellen gewidmet.

Maccabe weist auf die Herausforderung hin, Datensätze zu etablieren, die groß genug sind, um KI effektiv zu trainieren, und den Kontext widerzuspiegeln, in dem die KI eingesetzt werden soll. In einigen Fällen können sich Entwickler mit Datensätzen zufriedengeben, die „gut genug“ sind, wie bei Google Translate.

Der Bedarf an Standards und Vorschriften

Samorani betont die wachsende Notwendigkeit von Standards und Vorschriften zur Überprüfung von KI-Systemen auf Voreingenommenheit. Er ist optimistisch, dass KI-Voreingenommenheit durch die richtigen Vorschriften und Auditsysteme auf ein Maß reduziert werden kann, das keine Sorge mehr bereitet.

Xiang weist darauf hin, dass Maßnahmen zur Bekämpfung von KI-Voreingenommenheit im Gange sind, darunter ethische Datenerhebungsprozesse, die Entwicklung vielfältiger Trainingsdatensätze, die Einführung von Fairness-Metriken und Bewertungsrahmenwerken sowie die Förderung von Transparenz und Rechenschaftspflicht bei der Entwicklung und dem Einsatz von KI-Systemen.

Ammanath unterstreicht die Bedeutung der Aufklärung von Stakeholdern über KI-Risiken und Voreingenommenheit. Sie rät Organisationen, die Schulung ihrer Mitarbeiter in Unternehmensethik und Prinzipien der KI-Ethik priorisieren.

Obwohl KI-Voreingenommenheit eine erhebliche Herausforderung darstellt, ist sie nicht unbedingt der fatale Fehler von KI. Mit konzertierten Anstrengungen, technologischen Fortschritten und den richtigen Vorschriften kann ihre Auswirkungen minimiert und auf eine Zukunft hingearbeitet werden, in der KI-Technologien gerechter und weniger voreingenommen sind.