Rite Aid stellt KI-Gesichtserkennung nach FTC-Einigung ein

 Die bekannte Drogeriekette Rite Aid hat zugestimmt, die KI-gestützte Gesichtserkennungstechnologie zur Diebstahlprävention nicht mehr einzusetzen. Diese Entscheidung erfolgte im Zuge einer Einigung mit der Federal Trade Commission (FTC) und angesichts von Vorwürfen des Racial Profiling. Das seit 2012 eingesetzte KI-System soll eine Voreingenommenheit gezeigt und schwarze, lateinamerikanische und asiatische Kunden unverhältnismäßig häufiger als weiße Kunden erfasst haben.

Vorwürfe des Racial Profiling führen zu Maßnahmen

Der Einsatz KI-gestützter Gesichtserkennungstechnologie bei Rite Aid steht aufgrund des mutmaßlichen Profilings bestimmter Bevölkerungsgruppen in der Kritik. Konkret wurde das System eingesetzt, um Kunden zudent, die als potenziell diebstahlgefährdet galten. Beim Betreten des Geschäfts durch diese Personen wurden Mitarbeiter alarmiert. Besorgniserregenderweise deuten die in den Gerichtsakten vorgelegten Beweise darauf hin, dass Angehörige ethnischer Minderheiten häufiger unberechtigter Überwachung, Belästigung und öffentlicher Bloßstellung ausgesetzt waren.

Das sogenannte „Shopping while Black“-Phänomen, ein seit Langem bestehendes Problem, umfasst unbegründete Verdächtigungen, ständige Überwachung und ungerechtfertigte Diebstahlsvorwürfe, denen schwarze Kundinnen und Kunden vom Betreten eines Geschäfts an ausgesetzt sind. Dieses Problem erstreckt sich auch auf diskriminierende Praktiken wie das Einschließen von Haarpflege- und Kosmetikprodukten für Schwarze hinter Glasvitrinen, während ähnliche Artikel für weiße Kundinnen und Kunden frei zugänglich in offenen Regalen liegen.

Der Missbrauch von Gesichtserkennungstechnologie durch Rite Aid unterstreicht eine beunruhigende Fallstudie dessen, was einige Experten als „Rassismus im Einzelhandel“ bezeichnen, und verdeutlicht diematic Rolle, die KI bei der Verstärkung und Verschärfung rassistischer Ungleichheiten spielen kann.

Die Voreingenommenheit in der KI

Rashawn Ray, Soziologieprofessor an der University of Maryland und Senior Fellow der Brookings Institution, weist darauf hin, dass KI-Technologien oft bestehende Ungleichheiten widerspiegeln, da sie in Umgebungen entwickelt werden, denen es an Diversität und Inklusion mangelt. Wenn dieselben Stereotype, die alltägliche Begegnungen prägen, in Algorithmen kodiert werden, entsteht eine Gesichtserkennungstechnologie, die rassistische Stereotype – ähnlich menschlichen Vorurteilen – perpetuiert.

Implizite Vorurteile, die auf mentalen Verknüpfungen beruhen und unbewusst bestimmte Gruppen mit bestimmten Eigenschaften oder Verhaltensweisen assoziieren, spielen dabei eine bedeutende Rolle. Im Einzelhandel äußern sich diese Vorurteile häufig darin, dass Mitarbeiter fälschlicherweise farbige Kunden mit Diebstahlstrends in Verbindung bringen, ohne dass dies durch Daten belegt ist. Obwohl Statistiken zeigen, dass die meisten Ladendiebe in den USA weiß sind, trägt der Missbrauch von KI-Technologie weiterhin zur Verbreitung des falschen Bildes über die Mehrheit der Ladendiebe bei.

Während Warendiebstahl ein erhebliches finanzielles Risiko für Unternehmen darstellt, hatte Rite Aids Einsatz von KI zur Überwachung unbeabsichtigte Folgen. Kunden mit dunkler Hautfarbe, die fälschlicherweise ins Visier genommen wurden, erlitten Demütigungen, was zu Umsatzeinbußen für die Geschäfte führte. Einige Bevölkerungsgruppen, insbesondere solche mit wenigen alternativen Einkaufsmöglichkeiten, sahen sich gezwungen, Geschäftetron, in denen sie Diskriminierung und Misshandlungen ausgesetzt waren.

Die Rolle der KI jenseits des Einzelhandels

Die Folgen voreingenommener KI reichen weit über den Einzelhandel hinaus und geben Anlass zur Sorge hinsichtlich ihrer Auswirkungen auf Polizeiarbeit und öffentliche Sicherheit. Aufsehenerregende Fälle, wie die unrechtmäßige Verhaftung einer schwangeren schwarzen Frau in Detroit aufgrund von Fehlern in der Gesichtserkennungstechnologie, nähren Zweifel an der Vertrauenswürdigkeit KI-gestützter Überwachungssysteme.

Daten des Pew Research Center zeigen, dass Schwarze das geringste Vertrauen in Gesichtserkennungstechnologie bei der Polizeident. Fast die Hälfte der befragten Schwarzen äußerte Bedenken, dass Beamte KI-gestützte Technologien missbrauchen würden, um überwiegend von Schwarzen und LatinosdentViertel häufiger zu überwachen als ethnisch vielfältige Wohngebiete.

Aufrufe zur Vorsicht und zu Tests

Anfang des Jahres sprachen sich fünf US-Senatoren gegen den Einsatz von Gesichtserkennungstechnologie an US-Flughäfen durch die Transportsicherheitsbehörde (TSA) aus. Sie verwiesen auf eine Studie, die belegte, dass Schwarze und Asiaten im Vergleich zu weißen Männern deutlich häufiger von dieser Technologie falschdentwerden. Im Rahmen eines Vergleichs mit der FTC verpflichtete sich Rite Aid, den Einsatz KI-gestützter Überwachungssysteme für die nächsten fünf Jahre auszusetzen. Experten empfehlen anderen Einzelhändlern, diesem Beispiel zu folgen und strenge, wiederholte Tests durchzuführen, um mögliche Verzerrungen dieser Technologien auszuschließen.