Полицейский департамент Сиэтла отменяет контракт с ИИ на фоне скандала из-за неподобающих комментариев офицера

Недавно Полицейский департамент Сиэтла (SPD) расторг контракт с поставщиком услуг искусственного интеллекта (ИИ) Truleo, специализирующимся на анализе видеозаписей с боди-камер. Это решение последовало за скандалом, связанным с офицером Дэниелом Одерером и его неподобающими комментариями после трагической гибели Джаханви Кандулы, 23-летней аспирантки, в автомобильной аварии с участием полиции. Инцидент вызвал вопросы об использовании ИИ в полицейской деятельности и защите конфиденциальности офицеров.

Программное обеспечение Truleo с ИИ вызывает опасения

Программное обеспечение Truleo с ИИ, предназначенное для анализа видеозаписей с боди-камер, подверглось проверке из-за применения алгоритмом метки «риск». Сообщается, что программное обеспечение помечало видеоролики, содержащие определенные ключевые слова, включая слово «мертв». Эта автоматизированная система маркировки, предназначенная для выявления потенциально проблемных ситуаций, вызвала споры о своей точности и последствиях для конфиденциальности.

Планы продления сорваны

Документы, полученные расследовательским новостным изданием Open Vallejo, показали, что по состоянию на декабрь Полицейский департамент Сиэтла намеревался продлить свой контракт с Truleo еще на два года. Однако этот план был внезапно остановлен, когда Майк Солан, президент Гильдии полицейских Сиэтла (SPOG), узнал об использовании департаментом Truleo. Солан столкнулся с начальником полиции Сиэтла Адрианом Диасом, что запустило цепь событий, приведших к отмене контракта.

Спорные высказывания офицера Одерера

Скандал начался, когда офицер Дэниел Одерер был назначен для проведения обычного теста на трезвость офицеру Кевину Дэйву, который был вовлечен в трагическую аварию с Джаханви Кандулой. Записанные комментарии Одерера во время телефонного разговора с президентом SPOG Майком Соланом вызвали серьезные опасения. Было слышно, как Одерер сказал: «Она мертва», и предложил написать чек на сумму $11 000, добавив: «Ей все равно было 26. Она имела ограниченную ценность». Эти высказывания вызвали широкое осуждение и возмущение как внутри, так и за пределами полицейского департамента.

Реакция профсоюза и вопросы конфиденциальности офицеров

Президент SPOG Майк Солан выразил глубокую обеспокоенность по поводу использования технологий ИИ в департаменте, заявив, что офицеры чувствовали себя так, будто за ними шпионят. Он подчеркнул, что ситуация подорвала доверие среди офицеров и назвал это одной из самых серьезных проблем, поразивших департамент. Позиция Солана нашла отклик у многих офицеров, обеспокоенных своими правами на конфиденциальность.

Представитель SPD признал, что департамент изначально вступил в проект демонстрации технологии с Truleo, намереваясь проверить ее функциональность через ограниченную пилотную программу. Однако решение прекратить ее использование было принято после того, как защитники прав на конфиденциальность выразили обеспокоенность тем, что ИИ также просматривал видеозаписи гражданских лиц. Кроме того, стало очевидно, что система ИИ испытывала трудности с пониманием нюансов, таких как сарказм и полный контекст взаимодействий, что делало ее анализ в значительной степени неэффективным.

Два города занимают позицию

Сиэтл и Валлехо — единственные две правоохранительные органы, известные тем, что расторгнули свои контракты с Truleo. В обоих случаях должностные лица профсоюзов выступали против технологии, ссылаясь на опасения по поводу потенциального разоблачения проблемного поведения офицеров.

Роль Truleo в полицейской деятельности

Технология ИИ Truleo обрабатывает видеозаписи с боди-камер для полицейских и правоохранительных органов по всей стране. Ее основная цель — автоматизировать надзор, способствовать обучению и продвигать профессионализм среди офицеров. ИИ может отмечать потенциальные риски, когда офицеры передают угрозы, используют оскорбительную лексику или ведут себя непрофессионально. Он даже может определять тон, вежливость и благодарность, а также оценивать объяснения офицеров по арестам или штрафам.

SPD использовал услуги Truleo с 2021 года по февраль 2023 года, когда контракт был расторгнут.

SPOG реагирует на общественное возмущение

В ответ на общественное возмущение и протесты, связанные с инцидентом, Гильдия полицейских Сиэтла выпустила заявление в середине сентября. В заявлении подчеркивалось, что видео, запечатлевшее комментарии офицера Одерера, показывало только одну сторону разговора, подразумевая, что есть больше деталей и нюансов, которые еще предстоит сделать публичными. SPOG выразил уверенность в способности Управления подотчетности полиции провести тщательное и справедливое расследование по этому вопросу.

Скандал вокруг использования технологий ИИ Полицейским департаментом Сиэтла подчеркивает сложные отношения между современными методами полицейской деятельности и защитой конфиденциальности офицеров, а также продолжающиеся дебаты о роли ИИ в правоохранительных органах. Остается неясным, как этот инцидент повлияет на будущие решения относительно использования ИИ в полицейской деятельности и прав на конфиденциальность вовлеченных офицеров.