Gesichtserkennungstechnologie und rassistische Ungleichheiten bei der Polizeiarbeit

Die Gesichtserkennungstechnologie (FRT) ist erneut in die Kritik geraten, da befürchtet wird, sie könne rassistische Ungleichheiten bei der Polizeiarbeit verschärfen. Jüngste Forschungsergebnisse von Scientific American Online beleuchten die potenziellen Verzerrungen in FRT- Algorithmen und deren reale Folgen. 

Die Studie ergab, dass Strafverfolgungsbehörden, die automatisierte Gesichtserkennung einsetzen, Schwarze unverhältnismäßig häufig festnehmen, was kritische Fragen zur Fairness und Zuverlässigkeit der Technologie aufwirft.

Fehler in FRT-Algorithmen

Die Forscher, die den Bericht verfasst haben, argumentieren, dass mehrere Faktoren zu den unverhältnismäßigen Auswirkungen der Gesichtserkennungstechnologie (FRT) auf schwarze Gemeinschaften beitragen. Ein Hauptproblem ist die mangelnde Diversität in den Trainingsdatensätzen der Algorithmen, in denen schwarze Gesichter oft nicht ausreichend repräsentiert sind. Dieser defikann zu Ungenauigkeiten bei derdentvon Personen aus Minderheitengruppen führen.

Ein weiterer Faktor ist die Überzeugung der Strafverfolgungsbehörden, dass diese Programme unfehlbar sind. Diese übermäßige Abhängigkeit von Technologie kann dazu führen, dass Beamte den Ergebnissen der FRT-Untersuchungen bedingungslos vertrauen, selbst wenn diese fehlerhaft sind. 

Darüber hinaus legt die Studie nahe, dass die den Beamten innewohnenden Vorurteile die Probleme innerhalb der FRT verstärken und zu unrechtmäßigen Verhaftungen und nachteiligen Folgen für unschuldige Personen führen können.

Ein eindrucksvolles Beispiel für die realen Folgen einerdentdurch Gesichtserkennungssysteme ist der Fall von Harvey Eugene Murphy Jr. Der 61-jährige Großvater verklagt derzeit die Muttergesellschaft von Sunglass Hut, nachdem ihn die Gesichtserkennungstechnologie des Geschäfts fälschlicherweise als Räuberdent. 

Der Raubüberfall ereignete sich in einem Sunglass Hut-Geschäft in Houston, Texas, wo zwei bewaffnete Personen sowohl cash als auch Waren stahlen.

Die Polizei von HoustondentMurphy mithilfe des FRT-Systems als Tatverdächtigen, obwohl er zum Tatzeitpunkt in Kalifornien wohnte. Er wurde bei seiner Rückkehr nach Texas zur Erneuerung seines Führerscheins festgenommen. Im Gefängnis gab Murphy an, von drei Männern in einer Toilette sexuell missbraucht worden zu sein, was zu lebensverändernden Verletzungen geführt habe.

Obwohl die Staatsanwaltschaft von Harris County schließlich feststellte, dass Murphy nicht an dem Raubüberfall beteiligt war, war der Schaden während seiner Haftzeit bereits angerichtet. Seine Anwälte argumentieren, dass dieser Fall die systembedingten Mängel und praktischen Folgen des FRT-Systems verdeutlicht.

Experteneinblicke und Handlungsaufforderungen

Os Keyes, ein Ada Lovelace Fellow und Doktorand an der University of Washington, behauptet, dass diese Systeme darauf ausgelegt sind, bestehende polizeiliche Vorurteile zu automatisieren und zu beschleunigen, insbesondere gegenüber Personen, die bereits marginalisiert sind oder sich im Strafjustizsystem befinden. 

Keyes betont, dass die negativen Folgen von FRT sowohl unvermeidlich als auch erschreckend seien, und unterstreicht die Notwendigkeit einer umfassenderen Reform der Polizeiarbeit und der FRT-Regulierung.

Die Forscher von Scientific American heben hervor, dass private Unternehmen wie Amazon, Clearview AI und Microsoft typischerweise FRT-Algorithmen entwickeln, die von Strafverfolgungsbehörden eingesetzt werden. 

Trotz Fortschritten bei Deep-Learning-Techniken haben Tests der US-Regierung gezeigt, dass die meisten Gesichtserkennungsalgorithmen Schwierigkeiten haben, Personen genau zudent, insbesondere solche, die keine weißen Männer sind.

Im Jahr 2023 ging die US-amerikanische Federal Trade Commission (FTC) gegen den Einsatz von FRT-Systemen vor und untersagte Rite Aid die Nutzung dieser Technologie. Rite Aid hatte Personen fälschlicherweise des Ladendiebstahls beschuldigt, basierend auf FRT-Treffern. In einem alarmierendendentwurde ein elfjähriges Mädchen aufgrund eines falschen Treffers von einem Rite-Aid-Mitarbeiter angehalten und durchsucht.

Auch die Polizei von Detroit wurde verklagt, nachdem ihr Einsatzteam die schwangere Porcha Woodruff fälschlicherweise für eine Autodiebindent. Woodruff war zu diesem Zeitpunkt im achten Monat schwanger und wurde unrechtmäßig inhaftiert.

Die FTC räumte ein, dass People of Color bei der Anwendung von FRT häufig falschdentwerden. Die Überrepräsentation weißer Männer in den Trainingsdatensätzen führt zu verzerrten Algorithmen, wodurch Schwarze unverhältnismäßig oft als Kriminelle eingestuft werden. Dies wiederum trägt zur ungerechtfertigten Verfolgung und Verhaftung unschuldiger Schwarzer bei.

Forderungen nach Rechenschaftspflicht und Reform

Angesichts dieser Bedenken betonen die Forscher, wie wichtig es für Unternehmen, die FRT-Produkte entwickeln, ist, der Vielfalt des Personals und der Bildsprache in ihren Entwicklungsprozessen Priorität einzuräumen. Gleichzeitig heben sie jedoch hervor, dass Strafverfolgungsbehörden ihre Methoden kritisch überprüfen müssen, um zu verhindern, dass die Technologie rassistische Ungleichheiten verschärft und die Rechte von Einzelpersonen verletzt.

Während die Debatte um die Gesichtserkennungstechnologie andauert, wird immer deutlicher, dass umfassende Reformen und Regulierungen notwendig sind, um die systemischen Probleme ihrer Implementierung anzugehen. 

Die Folgen fehlerhafter FRT-Algorithmen reichen weit über technische Pannen hinaus und beeinträchtigen das Leben und Wohlbefinden von Einzelpersonen, insbesondere von Menschen aus marginalisierten Gemeinschaften.