Le département de police de Seattle annule le contrat avec l'IA suite à la controverse sur les commentaires inappropriés d'un officier

Récemment, le département de police de Seattle (SPD) a résilié son contrat avec le fournisseur de services d'intelligence artificielle (IA) Truleo, spécialisé dans l'analyse des vidéos de caméras-piétons. Cette décision fait suite à un scandale impliquant l'officier Daniel Auderer et ses commentaires inappropriés après la mort tragique de Jaahnavi Kandula, une étudiante diplômée de 23 ans, dans un accident de voiture de police. L'incident a soulevé des questions sur l'utilisation de l'IA dans la police et la protection de la vie privée des officiers.

Les logiciels IA de Truleo suscitent des inquiétudes

Le logiciel IA de Truleo, conçu pour analyser les vidéos de caméras-piétons, a été soumis à un examen attentif concernant l'application de l'étiquette « risque » par son algorithme. Le logiciel aurait signalé des vidéos contenant des mots-clés spécifiques, y compris le mot « mort ». Ce système d'étiquetage automatisé, destiné à identifier les situations potentiellement problématiques, a suscité une controverse quant à son exactitude et ses implications pour la vie privée.

Les projets de renouvellement déraillés

Des documents obtenus par le média d'investigation Open Vallejo ont révélé qu'en décembre, le département de police de Seattle avait l'intention de renouveler son contrat avec Truleo pour une période supplémentaire de deux ans. Cependant, ce plan a été brusquement interrompu lorsque Mike Solan, président de la Guilde des officiers de police de Seattle (SPOG), a pris connaissance de l'utilisation de Truleo par le département. Solan a confronté le chef de la police de Seattle, Adrian Diaz, déclenchant une série d'événements ayant conduit à l'annulation du contrat.

Les remarques controversées de l'officier Auderer

La controverse a commencé lorsque l'officier Daniel Auderer a été chargé d'effectuer un test de sobriété de routine sur l'officier Kevin Dave, qui avait été impliqué dans un accident tragique avec Jaahnavi Kandula. Les commentaires enregistrés d'Auderer lors d'un appel téléphonique avec le président de la SPOG, Mike Solan, ont soulevé de sérieuses inquiétudes. Auderer a été entendu disant : « Elle est morte », et a suggéré qu'un chèque de 11 000 $ devrait être émis, ajoutant : « Elle avait de toute façon 26 ans. Elle avait une valeur limitée. » Ces remarques ont suscité une condamnation généralisée et provoqué l'indignation au sein et à l'extérieur du département de police.

Réponse du syndicat et préoccupations concernant la vie privée des officiers

Le président de la SPOG, Mike Solan, a exprimé de profondes inquiétudes concernant l'utilisation de la technologie IA au sein du département, déclarant que les officiers se sentaient comme s'ils étaient espionnés. Il a souligné que la situation avait érodé la confiance parmi les officiers et l'a qualifiée de l'un des problèmes les plus importants ayant affecté le département. La position de Solan a résonné avec de nombreux officiers qui s'inquiétaient de leurs droits à la vie privée.

Un porte-parole du SPD a reconnu que le département avait initialement entamé un projet de démonstration technologique avec Truleo, ayant l'intention de valider son fonctionnement par un programme pilote limité. Cependant, la décision de cesser son utilisation est intervenue après que des défenseurs des droits à la vie privée ont exprimé des inquiétudes selon lesquelles l'IA examinait également les vidéos de civils. De plus, il est devenu évident que le système IA avait du mal à saisir les nuances telles que le sarcasme et le contexte complet des interactions, rendant son analyse largement inefficace.

Deux villes prennent position

Seattle et Vallejo sont les deux seules agences de forces de l'ordre connues pour avoir résilié leurs contrats avec Truleo. Dans les deux cas, les responsables syndicaux se sont opposés à la technologie, citant des préoccupations quant à la divulgation potentielle de comportements problématiques des officiers.

Le rôle de Truleo dans la police

La technologie IA de Truleo traite les vidéos de caméras-piétons pour les services de police et les agences de forces de l'ordre à travers tout le pays. Son objectif principal est d'automatiser la supervision, de faciliter l'encadrement et de promouvoir le professionnalisme parmi les officiers. L'IA peut signaler les risques potentiels lorsque les officiers relaient des menaces, utilisent un langage insultant ou adoptent un comportement non professionnel. Elle peut même détecter le ton, la politesse et la gratitude, tout en évaluant les explications des officiers concernant les arrestations ou les amendes.

Le SPD utilisait les services de Truleo de 2021 à février 2023, date à laquelle le contrat a été résilié.

La SPOG répond à l'indignation publique

En réponse à l'indignation publique et aux manifestations entourant l'incident, la Guilde des officiers de police de Seattle a publié une déclaration à la mi-septembre. La déclaration soulignait que la vidéo capturant les commentaires de l'officier Auderer ne présentait qu'un seul côté de la conversation, impliquant qu'il y avait plus de détails et de nuances à rendre publics. La SPOG a exprimé sa confiance dans la capacité du Bureau de la responsabilité de la police à mener une enquête approfondie et impartiale sur l'affaire.

La controverse entourant l'utilisation de la technologie IA par le département de police de Seattle met en lumière la relation complexe entre les méthodes de police modernes et la protection de la vie privée des officiers, ainsi que le débat continu sur le rôle de l'IA dans les forces de l'ordre. On ne sait pas encore comment cet incident influencera les décisions futures concernant l'utilisation de l'IA dans la police et les droits à la vie privée des officiers impliqués.