Bekämpfung algorithmischer Voreingenommenheit: IEEE P7003-Initiative fördert ethische KI-Entwicklung

Im digitalen Zeitalter spielt künstliche Intelligenz (KI) eine zunehmend zentrale Rolle in unserem täglichen Leben, von personalisierten Streaming-Empfehlungen bis hin zu Anwendungen im Gesundheitswesen. Doch diese Verbreitung von KI wirft Fragen zur algorithmischen Voreingenommenheit auf – wenn KI-Systeme aufgrund zugrunde liegender Annahmen oder unausgewogener Trainingsdaten voreingenommene Ergebnisse liefern. 

Um diesem Problem direkt zu begegnen, hat die IEEE Standards Association (IEEE SA) die P7003 Working Group ins Leben gerufen, um einen umfassenden Rahmen für die Entwicklung von KI-Systemen zu schaffen, die Voreingenommenheit abbauen und Fairness gewährleisten.

Algorithmische Voreingenommenheit, ein drängendes Problem in der KI, entsteht, wenn Machine-Learning-Algorithmen unbeabsichtigt Ergebnisse produzieren, die bestimmte Gruppen oder Attribute gegenüber anderen bevorzugen. Diese Voreingenommenheit ist oft in den Daten verwurzelt, auf denen die Algorithmen trainiert werden, und ihre Konsequenzen können tiefgreifend sein. Zum Beispiel kann Gesichtserkennungssoftware, die hauptsächlich mit einer Demografie trainiert wurde, zu Fehlidentifizierungen oder der Ausschluss anderer Gruppen führen, was zu realen Konsequenzen wie Verzögerungen für Reisende an der Grenzkontrolle führt.

Drei Quellen der Voreingenommenheit

Die IEEE P7003 Working Group identifiziert drei primäre Quellen der Voreingenommenheit, die in KI-Systemen auftreten können:

Voreingenommenheit durch die Algorithmenentwickler: Diese Art der Voreingenommenheit resultiert aus den Optimierungszielen, die von Entwicklern festgelegt werden. Ein Algorithmus, der beispielsweise darauf ausgelegt ist, die Produktivität von Arbeitnehmern in einem Geschäftssystem zu maximieren, kann unbeabsichtigt die Gesundheit der Arbeitnehmer ignorieren, was zu Voreingenommenheit führt.

Voreingenommenheit innerhalb des Systems: Einige Systeme weisen inhärent Leistungsunterschiede zwischen verschiedenen Kategorien auf, wie beispielsweise Diskrepanzen in der Genauigkeit der Gesichtserkennung basierend auf Rasse und Geschlecht.

Voreingenommenheit durch Systemnutzer: Nutzer können ebenfalls Voreingenommenheit einführen, wenn sie algorithmische Ausgaben interpretieren und darauf reagieren. Bestätigungsfehler, bei dem Nutzer Informationen akzeptieren, die mit ihren vorbestehenden Überzeugungen übereinstimmen, ohne diese zu überprüfen, ist ein solches Beispiel.

Die Rolle von IEEE P7003

Die P7003 Working Group der IEEE SA zielt darauf ab, diese Probleme anzugehen, indem sie einen Entwicklungsrahmen für KI-Systeme bereitstellt, um unbeabsichtigte, ungerechtfertigte und unterschiedlich schädliche Nutzerergebnisse zu vermeiden. Die Gruppe arbeitet mit den Zertifizierungskriterien von CertifAIEd für die Zertifizierung algorithmischer Voreingenommenheit zusammen, um sicherzustellen, dass KI-Systeme mit Fairness und Ethik in der Entwicklung entwickelt werden.

Während Voreingenommenheit oft als schädlich angesehen wird, gibt es Szenarien, in denen beabsichtigte Voreingenommenheit akzeptabel und wesentlich ist. Zum Beispiel sollte eine Gesundheits-App, die Männer bei der Verwaltung der Prostata-Gesundheit unterstützt, natürlich auf männliche Nutzer ausgerichtet sein, da der medizinische Kontext dies vorgibt. Umgekehrt sollte eine App zur Sensibilisierung für Brustkrebs unvoreingenommen bleiben, um beide Geschlechter effektiv zu bedienen.

Bewertung und Management von Bias-Risiken

Um das Bewusstsein und das Verständnis für KI-System-Voreingenommenheiten zu fördern, bietet IEEE P7003 Empfehlungen für eine effiziente KI-Systementwicklung:

Verwenden Sie ein Bias-Profil: Nutzen Sie ein Bias-Profil, um die Auswirkungen und Risiken der Voreingenommenheit im System zu bewerten und zu verstehen.

Berücksichtigen Sie Absicht und Kontext: Definieren Sie die Absicht des Systems klar und verstehen Sie den Kontext, in dem es operiert, um sicherzustellen, dass es mit den Bedürfnissen der Stakeholder übereinstimmt.

Aufgabendefinition: Definieren Sie die Aufgaben des Systems klar und stellen Sie sicher, dass seine Ergebnisse mit diesen Aufgaben übereinstimmen.

Stakeholder-Bewusstsein: Verstehen Sie die Nutzer und Stakeholder, die mit dem System interagieren oder davon betroffen sind.

Regelmäßige Bewertung: Bewerten Sie das System regelmäßig auf Voreingenommenheit während seines gesamten Lebenszyklus, da sich Nutzung und Stakeholder entwickeln können.

Kontextuelle Anpassung: Überarbeiten Sie das Bias-Profil, wenn das System in einem neuen Kontext bereitgestellt wird, und berücksichtigen Sie, wie sich sein Verhalten anpassen muss.

Diverse Entwicklungsteams: Fördern Sie diverse Teams von Entwicklern und Bewertern, um unterschiedliche Perspektiven einzubringen und Voreingenommenheit zu reduzieren.

Hin zu ethischer KI-Entwicklung

IEEE P7003 zielt darauf ab, Einzelpersonen und Organisationen Methodiken an die Hand zu geben, die Rechenschaftspflicht und Klarheit bei der Entwicklung, dem Testen und der Bewertung von Algorithmen betonen. Diese Methodiken helfen, ungerechtfertigte unterschiedliche Auswirkungen auf Nutzer zu vermeiden. Dies ermöglicht es Algorithmenentwicklern, gegenüber Aufsichtsbehörden und Nutzern zu kommunizieren, dass die aktuellsten Best Practices angewendet werden, um ethische Überlegungen in der KI-Entwicklung in den Vordergrund zu stellen.

Diese Initiative steht im Einklang mit der breiteren Bewegung für ethische KI, wie sie in der kürzlich veröffentlichten IEEE-Publikation „Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems“ zu sehen ist. Das Dokument ermutigt Technologen, ethische Überlegungen bei der Schaffung autonomer und intelligenter Technologien in den Vordergrund zu stellen, was die Bedeutung ethischer KI-Entwicklung weiter unterstreicht.