Stadt Detroit führt neue Regeln für Gesichtserkennungstechnologie nach falschen Festnahmen ein

Am Freitag hat die Stadt Detroit neue Regeln für die Nutzung von KI-basierter Gesichtserkennungstechnologie verabschiedet. Die American Civil Liberties Union (ACLU) sagt, dass der neue Regelkatalog ein nationaler Standard sein sollte.

Strafverfolgungsbehörden in den gesamten Vereinigten Staaten nutzen KI-basierte Gesichtserkennungstechnologie, um festgenommene Kriminelle auf Kamera zu identifizieren. In Michigan vergleicht das KI-System neue Gesichter mit denen in der Mugshot-Datenbank oder den Bildern der Führerscheine. In anderen Regionen der USA werden Tools wie Clearview AI verwendet, um Fotos aus dem Internet, insbesondere aus sozialen Medien, zu durchsuchen, so einem Bericht der New York Times.

Gesichtserkennungstechnologie lieferte falsche Übereinstimmungen 

Ein Bürger namens Robert Williams wurde im Januar 2020 in einem Gefängnis in Detroit inhaftiert. Er wurde von der Polizeiabteilung von Detroit festgenommen, weil das Gesichtserkennungssystem ihn als den Täter identifizierte. Die Übereinstimmung des Systems war falsch, und Williams verklagte die Stadt. Er verbrachte 30 Stunden im Gefängnis.

Auch lesen: Senatoren fordern Einschränkungen für Gesichtserkennungstechnologie in Flughäfen

Am 28. Juni erhielt Williams eine Zusage der Polizeiabteilung von Detroit, dass sie sich im Rahmen einer rechtlichen Einigung über seine ungerechte Festnahme verbessern würde. Die American Civil Liberties Union präsentierte Herrn Williams als die erste Person, die aufgrund des fehlerhaften Gesichtserkennungssystems ungerechtfertigt festgenommen wurde. Williams sagte:

„Wir hoffen, dass dies den Weg in die richtige Richtung weist.“

Zwei weitere Personen wurden ebenfalls aufgrund der Identifizierung durch das fehlerhafte Gesichtserkennungssystem festgenommen. Eine acht Monate schwangere Frau, Porcha Woodruff, war ebenfalls unter den Festgenommenen, die fälschlicherweise des Autodiebstahls beschuldigt wurden.

Polizei benötigt nun Beweise jenseits der Gesichtserkennung

Eine wichtige neue Regel, die von der Stadt verabschiedet wurde, besagt, dass Fotos von Personen, die vom Gesichtserkennungssystem identifiziert wurden, Zeugen nicht mehr vorgezeigt werden dürfen. Dies ist nur erlaubt, wenn zusätzliche Beweise vorliegen, die die identifizierte Person mit der Straftat in Verbindung bringen.

Phil Mayor, Anwalt der ACLU, sagte: „Die Pipeline ‚Bild holen, in die lineup stecken‘ wird enden.“ Er fügte weiter hinzu:

„Diese Einigung verschiebt die Polizeiabteilung von Detroit vom am besten dokumentierten Missbraucher der Gesichtserkennungstechnologie hin zu einem nationalen Führer bei der Einführung von Schutzmaßnahmen für deren Nutzung.“

Es ist wichtig zu bedenken, dass Herr Williams fälschlicherweise wegen eines Ladendiebstahls festgenommen wurde, der stattfand, als er an seinem Schreibtisch in einem Versorgungsunternehmen arbeitete. Seine Fingerabdrücke und DNA wurden ebenfalls gesammelt, und er musste einen Anwalt für seine Verteidigung engagieren. Frau Woodruff wurde festgenommen, als sie ihre Kinder auf die Schule vorbereitete. Sie hat ebenfalls die Stadt verklagt, und der Fall befindet sich vor Gericht.

Polizei wird KI-basierte Technologie für schwere Verbrechen einsetzen

Die Polizei sagte, dass Gesichtserkennungstechnologie bei der Aufklärung von Verbrechen hilft, da sie ein leistungsstarkes Werkzeug ist. Viele Städte haben jedoch ihre Nutzung aufgrund von Bedenken hinsichtlich rassistischer Voreingenommenheit und Privatsphäre verboten. Es wird berichtet, dass die Polizei von Detroit drei ungerechtfertigte Festnahmen aufgrund fehlerhafter Technologie vorgenommen hat. Stadtbeamte sagten jedoch, dass die neuen Regeln Missbrauch verhindern würden. 

Auch lesen: Scan verbieten – Ist Gesichtserkennung eine Bedrohung für die bürgerlichen Freiheitsrechte?

Stadtbeamte bleiben optimistisch bezüglich des Potenzials der künstlichen Intelligenz. Sie sagten, dass sie sie für schwerwiegendere Verbrechen wie Hausüberfälle, Körperverletzung oder Mord einsetzen würden. James White, der Polizeichef von Detroit, sagte, dass seine Beamten zu stark auf die Technologie verlassen würden. Er machte ihre Urteilsfähigkeit statt der Maschine dafür verantwortlich.

In Bezug auf die Regel, wonach die Polizei das Gesicht einer Person nicht mehr allein auf der Grundlage der Gesichtserkennung zeigen darf, sagte Herr Lamoreaux von der Kriminalnachrichteneinheit:

„Es muss eine Art sekundäres, unabhängiges bestätigendes Beweismittel geben, bevor es eine ausreichende Rechtfertigung gibt, zur lineup zu gehen.“

Lamoreaux sagte, dass die Polizei nun mehr als nur eine physische Ähnlichkeit der Person benötigen würde. Er sagte, dass die Geotagging-Position des Telefons einer Person zur Bestimmung des Standorts oder DNA-Beweise erforderlich sein würden.

Gemäß den neuen Regeln muss die Polizei die Gesichtssuche zusammen mit der Qualität des Fotos offenlegen. Herr Hayes, stellvertretender Polizeichef von Detroit, zeigte sein Vertrauen in die neuen Regeln. Er sagte, dass sie bei der Eindämmung von Fehlidentifizierungen helfen würden. Er wies jedoch darauf hin, dass „es immer noch ein paar Dinge gibt, die schiefgehen könnten, zum Beispiel eineiige Zwillinge.“

Bericht von Cryptopolitan von Aamir Sheikh