Polizeibehörde von Seattle kündigt KI-Vertrag angesichts Kontroverse über unangemessene Kommentare eines Beamten

Kürzlich hat das Seattle Police Department (SPD) seinen Vertrag mit dem Anbieter für künstliche Intelligenz (KI) Truleo gekündigt, der sich auf die Analyse von Body-Camera-Aufnahmen spezialisiert hat. Diese Entscheidung erfolgt im Anschluss an einen Skandal, der sich um den Polizisten Daniel Auderer und seine unangemessenen Kommentare nach dem tragischen Tod der 23-jährigen Graduiertenstudentin Jaahnavi Kandula bei einem Polizeiauto-Unfall drehte. Der Vorfall hat Fragen zur Nutzung von KI in der Polizeiarbeit und zum Schutz der Privatsphäre der Beamten aufgeworfen.

Truleos KI-Software wirft Bedenken auf

Truleos KI-Software, die zur Analyse von Body-Camera-Aufnahmen entwickelt wurde, geriet in die Kritik aufgrund der Anwendung des „Risiko“-Labels durch ihren Algorithmus. Berichten zufolge markierte die Software Videos, die bestimmte Schlüsselwörter enthielten, einschließlich des Wortes „tot“. Dieses automatisierte Kennzeichnungssystem, das dazu dienen sollte, potenziell problematische Situationen zu identifizieren, hat Kontroversen über seine Genauigkeit und die Implikationen für die Privatsphäre ausgelöst.

Verlängerungspläne scheitern

Dokumente, die von der investigativen Nachrichtenplattform Open Vallejo erhalten wurden, enthüllten, dass das Seattle Police Department bis Dezember beabsichtigt hatte, seinen Vertrag mit Truleo um weitere zwei Jahre zu verlängern. Dieser Plan wurde jedoch abrupt gestoppt, als Mike Solan, der Präsident der Seattle Police Officers Guild (SPOG), von der Nutzung von Truleo durch die Abteilung erfuhr. Solan konfrontierte den Chef der Seattle Police, Adrian Diaz, was eine Kette von Ereignissen auslöste, die zur Kündigung des Vertrags führten.

Kontroverse Bemerkungen von Officer Auderer

Die Kontroverse begann, als der Polizist Daniel Auderer damit beauftragt wurde, einen routinemäßigen Nüchternheitstest an Officer Kevin Dave durchzuführen, der an einem tragischen Unfall mit Jaahnavi Kandula beteiligt war. Auderes aufgezeichnete Kommentare während eines Telefonats mit SPOG-Präsident Mike Solan weckten ernsthafte Bedenken. Man hörte Auderer sagen: „Sie ist tot“, und schlug vor, einen Scheck über 11.000 US-Dollar auszustellen, und fügte hinzu: „Sie war sowieso 26. Sie hatte begrenzten Wert.“ Diese Bemerkungen zogen weitverbreitete Verurteilungen hervor und lösten Empörung sowohl innerhalb als auch außerhalb der Polizeiabteilung aus.

Reaktion der Gewerkschaft und Bedenken hinsichtlich der Privatsphäre der Beamten

SPOG-Präsident Mike Solan äußerte tiefe Bedenken hinsichtlich der Nutzung von KI-Technologie innerhalb der Abteilung und stellte fest, dass sich die Beamten so fühlten, als würden sie bespitzelt. Er betonte, dass die Situation das Vertrauen unter den Beamten untergraben habe und bezeichnete sie als eines der schwerwiegendsten Probleme, die die Abteilung heimgesucht haben. Solans Haltung resonierte mit vielen Beamten, die sich um ihre Privatsphäre sorgten.

Ein Sprecher des SPD räumte ein, dass die Abteilung ursprünglich ein Technologie-Demonstrationsprojekt mit Truleo eingegangen war, um dessen Funktionalität durch ein begrenztes Pilotprogramm zu validieren. Die Entscheidung, die Nutzung einzustellen, erfolgte jedoch, nachdem Datenschutzaktivisten Bedenken geäußert hatten, dass die KI auch zivile Aufnahmen überprüfte. Darüber hinaus wurde deutlich, dass das KI-System Schwierigkeiten hatte, Nuancen wie Sarkasmus und den vollständigen Kontext von Interaktionen zu erfassen, was seine Analyse weitgehend unwirksam machte.

Zwei Städte nehmen Stellung

Seattle und Vallejo sind die einzigen beiden Strafverfolgungsbehörden, von denen bekannt ist, dass sie ihre Verträge mit Truleo gekündigt haben. In beiden Fällen kämpften Gewerkschaftsvertreter gegen die Technologie, da sie Bedenken hinsichtlich der möglichen Offenlegung problematischen Verhaltens von Beamten äußerten.

Truleos Rolle in der Polizei

Truleos KI-Technologie verarbeitet Body-Camera-Videos für Polizei- und Strafverfolgungsbehörden landesweit. Ihr Hauptzweck besteht darin, die Aufsicht zu automatisieren, Coaching zu erleichtern und die Professionalität unter den Beamten zu fördern. Die KI kann potenzielle Risiken markieren, wenn Beamte Drohungen übermitteln, beleidigende Sprache verwenden oder unprofessionelles Verhalten an den Tag legen. Sie kann sogar Tonfall, Höflichkeit und Dankbarkeit erkennen und gleichzeitig die Erklärungen der Beamten für Festnahmen oder Geldbußen bewerten.

Das SPD nutzte die Dienste von Truleo von 2021 bis Februar 2023, als der Vertrag gekündigt wurde.

SPOG reagiert auf die öffentliche Empörung

Als Reaktion auf die öffentliche Empörung und Proteste im Zusammenhang mit dem Vorfall veröffentlichte die Seattle Police Officers Guild Mitte September eine Erklärung. In der Erklärung wurde betont, dass das Video, das Officer Auderes Kommentare festhielt, nur eine Seite der Konversation darstellte, was impliziert, dass es weitere Details und Nuancen gab, die noch nicht öffentlich gemacht wurden. Die SPOG äußerte ihr Vertrauen in die Fähigkeit des Office of Police Accountability, eine gründliche und faire Untersuchung des Vorfalls durchzuführen.

Die Kontroverse um die Nutzung von KI-Technologie durch das Seattle Police Department unterstreicht die komplexe Beziehung zwischen modernen Polizeimethoden und dem Schutz der Privatsphäre der Beamten sowie die anhaltende Debatte über die Rolle der KI in der Strafverfolgung. Es bleibt abzuwarten, wie sich dieser Vorfall auf zukünftige Entscheidungen regarding der Nutzung von KI in der Polizeiarbeit und der Privatsphäre der beteiligten Beamten auswirken wird.