Gesichtserkennungstechnologie und rassistische Ungleichheiten in der Polizeiarbeit

Gesichtserkennungstechnologie (FRT) steht erneut in der Kritik, da Bedenken bestehen, dass sie rassistische Ungleichheiten in der Polizeiarbeit verschärfen könnte. Kürzlich durchgeführte Online-Forschung von Scientific American hat die potenziellen Vorurteile in FRT-Algorithmen und deren reale Konsequenzen beleuchtet.

Die Studie ergab, dass Strafverfolgungsbehörden, die automatisierte Gesichtserkennung nutzen, unverhältnismäßig häufig Schwarze festnehmen, was kritische Fragen zur Fairness und Zuverlässigkeit der Technologie aufwirft.

Mängel in FRT-Algorithmen

Die Forscher hinter dem Bericht argumentieren, dass mehrere Faktoren zur unverhältnismäßigen Auswirkung von FRT auf schwarze Gemeinschaften beitragen. Ein großes Anliegen ist der Mangel an Vielfalt in den Trainingsdatensätzen der Algorithmen, die oft keine angemessene Darstellung schwarzer Gesichter aufweisen. Diese Mängel können zu Ungenauigkeiten bei der Identifizierung von Personen aus Minderheitengruppen führen.

Ein weiterer beitragender Faktor ist der Glaube der Strafverfolgungsbehörden, dass diese Programme unfehlbar sind. Diese übermäßige Abhängigkeit von der Technologie kann dazu führen, dass Beamte FRT-Ergebnissen bedingungslos vertrauen, selbst wenn sie fehlerhaft sind. 

Darüber hinaus deutet die Studie darauf hin, dass die inhärenten Vorurteile der Beamten die Probleme innerhalb von FRT verstärken können, was zu falschen Festnahmen und nachteiligen Konsequenzen für unschuldige Personen führt.

Ein markantes Beispiel für die realen Konsequenzen von FRT-Fehlidentifizierungen ist der Fall von Harvey Eugene Murphy Jr. Der 61-jährige Großvater klagt derzeit gegen die Muttergesellschaft von Sunglass Hut, nachdem die Gesichtserkennungstechnologie des Geschäfts ihn fälschlicherweise als Räuber identifiziert hatte. 

Der Raubüberfall geschah in einem Sunglass-Hut-Geschäft in Houston, Texas, wo zwei bewaffnete Personen sowohl Bargeld als auch Waren stahlen.

Die Polizei von Houston identifizierte Murphy dank FRT als Verdächtigen, obwohl er zum Zeitpunkt der Straftat in Kalifornien lebte. Er wurde festgenommen, als er nach Texas zurückkehrte, um seinen Führerschein zu erneuern. Während seiner Haftzeit behauptet Murphy, er sei in einem Badezimmer von drei Männern sexuell missbraucht worden, was zu lebensverändernden Verletzungen führte.

Obwohl das Büro des Bezirksstaatsanwalts von Harris County schließlich feststellte, dass Murphy nicht am Raubüberfall beteiligt war, war der Schaden während seiner Inhaftierung bereits angerichtet. Seine Anwälte argumentieren, dass dieser Fall die inhärenten Mängel und Konsequenzen von FRT in der Praxis exemplarisch verdeutlicht.

Einblicke von Experten und Aufforderungen zum Handeln

Os Keyes, Ada-Lovelace-Fellow und Doktorand an der University of Washington, behauptet, dass diese Systeme darauf ausgelegt sind, bestehende polizeiliche Vorurteile, insbesondere gegenüber bereits marginalisierten Personen oder solchen im Justizsystem, zu automatisieren und zu beschleunigen. 

Keyes betont, dass die negativen Ergebnisse von FRT sowohl unvermeidlich als auch erschreckend sind, und unterstreicht die Notwendigkeit einer umfassenderen Reform der Polizeiarbeit und der FRT-Regulierung.

Die Forscher von Scientific American weisen darauf hin, dass private Unternehmen wie Amazon, Clearview AI und Microsoft typischerweise die FRT-Algorithmen entwickeln, die von Strafverfolgungsbehörden genutzt werden. 

Trotz Fortschritten in den Deep-Learning-Techniken hat die föderale Testung gezeigt, dass die meisten Gesichtserkennungsalgorithmen Schwierigkeiten haben, Personen genau zu identifizieren, insbesondere solche, die keine weißen Männer sind.

Im Jahr 2023 ging die Federal Trade Commission (FTC) gegen die Nutzung von FRT vor, indem sie Rite Aid verbot, diese Technologie einzusetzen. Rite Aid hatte Personen fälschlicherweise des Ladendiebstahls beschuldigt, basierend auf FRT-Übereinstimmungen. In einem beunruhigenden Vorfall wurde ein 11-jähriges Mädchen von einem Rite Aid-Mitarbeiter aufgrund einer falschen Übereinstimmung angehalten und durchsucht.

Ähnlich sah sich die Polizeiabteilung von Detroit einer Klage ausgesetzt, nachdem ihre FRT eine schwangere Frau, Porcha Woodruff, fälschlicherweise als Verdächtige eines Autoentführungsdelikts identifizierte. Woodruff war zu diesem Zeitpunkt acht Monate schwanger und wurde zu Unrecht inhaftiert.

Die FTC erkannte an, dass Menschen of color bei der Nutzung von FRT oft falsch identifiziert werden. Die Überrepräsentation weißer Männer in Trainingsdatensätzen führt zu verzerrten Algorithmen, die dazu führen, dass schwarze Gesichter unverhältnismäßig oft als kriminell markiert werden. Dies trägt wiederum zur ungerechten Zielsetzung und Festnahme unschuldiger schwarzer Personen bei.

Aufforderungen zu Rechenschaftspflicht und Reform

Angesichts dieser Bedenken betonen die Forscher die Notwendigkeit, dass Unternehmen, die FRT-Produkte entwickeln, die Vielfalt der Mitarbeiter und Bilder in ihren Entwicklungsprozessen priorisieren sollten. Sie betonen jedoch auch, dass Strafverfolgungsbehörden ihre Methoden kritisch prüfen müssen, um zu verhindern, dass Technologie rassistische Ungleichheiten verschärft und die Rechte der Menschen verletzt.

Während die Debatte über Gesichtserkennungstechnologie weitergeht, wird immer klarer, dass umfassende Reformen und Regulierungen notwendig sind, um die systemischen Probleme ihrer Implementierung anzugehen. 

Die Konsequenzen fehlerhafter FRT-Algorithmen gehen weit über technische Störungen hinaus und beeinflussen das Leben und das Wohlbefinden von Menschen, insbesondere solcher aus marginalisierten Gemeinschaften.