Сможет ли эта рубашка с «цифровым камуфляжем» скрыть вас от камер видеонаблюдения с искусственным интеллектом?

Берлинский художник Симон Веккерт создал рубашку на пуговицах под названием «Цифровой камуфляж», которую камеры видеонаблюдения с искусственным интеллектом не распознают как человека.

Создание этого предмета одежды — прямой ответ на запуск в этом месяце системы видеонаблюдения на основе искусственного интеллекта на транспортном узле Коттбуссер Тор в городе.

Как рубашка может защитить от слежки?

Берлинский художник Симон Веккерт выпустил рубашку под названием «Цифровой камуфляж», которая, как сообщается, может снизить уверенность программного обеспечения для распознавания объектов в том, что оно распознает человека.

Векерт утверждал, что эти системы на самом деле никогда не учились определять, что такое человек, а лишь изучали, как люди обычно выглядят на основе миллионов обучающих фотографий: контуры и текстура на ранних уровнях, а затем, на более поздних, контур головы и плеч и пропорции конечностей.

В игре Digital Camouflage используется этот метод обучения с помощью яркого переплетения розовых, оранжевых и зеленых фигур.

Веккерт объяснил, что насыщенные цвета подсвечивают первые слои сети, в то время как перекрывающиеся формы искажают контуры тела до такой степени, что детектор не может сшить фрагменты обратно в единую фигуру.

Для человека эта рубашка выглядит как завораживающий гавайский принт, но для моделей, работающих под наблюдением, она ничего не значит.

Векерт создал этот шаблон с помощью «противоположного цикла», в котором он генерировал предполагаемый отпечаток, показывал его детектору, измерял, насколько программное обеспечение по-прежнему уверено в том, что оно увидело человека, затем корректировал и повторял процесс до тех пор, пока не получал удовлетворительных результатов.

По имеющимся данным, он использовал генеративный метод под названием TC-EGA (Toroidal-Cropping-based Expandable Generative Attack) для проведения этих атак и проверил результаты с помощью YOLO, системы обнаружения в реальном времени с открытым исходным кодом, построенной на той же технологии, что и многие коммерческие продукты для слежки.

Однако Веккерт уточнил, что рубашка была разработана не для того, чтобы обойти какую-то конкретную правительственную камеру, а для того, чтобы задать вопрос: насколько можно доверять системе, если её можно обойти с помощью дешёвой ткани?.

На своем сайте он подчеркивает, что футболка «не гарантирует анонимность» и не делает никаких заявлений о конкретном применении, именно потому, что посторонние не могут протестировать эти системы. Одежда продается примерно за 88 долларов, при этом часть выручки от каждой продажи идет группам, занимающимся защитой гражданских прав в цифровой среде.

Почему люди вдруг стали искать защиты от слежки?

На сайте Веккерта поясняется , что камеры, которые он называет сканерами поведения, планируется установить на станции метро Коттбуссер Тор в берлинском районе Кройцберг. Программное обеспечение предназначено для сортировки прохожих на «нормальных» и «подозрительных». Он считает, что следующими на очереди будут еще три места в Берлине.

В Соединенных Штатах губернатор Техаса Грег Эбботт в четверг вечером распорядился, чтобы государственные учреждения прекратили финансирование компании Flock Safety, чьи системы считывания номерных знаков насчитывают более 120 000 устройств в 49 штатах. Сенатор-республиканец Джош Хоули также начал расследование того, как компания обрабатывает собранные данные.

Системы считывания номерных знаков компании Flock Safety вызвали значительную критику после сообщений о злоупотреблениях со стороны сотрудников правоохранительных органов в личных целях, таких как tracза бывшими девушками, супругами и романтическими соперниками.

В одном крайнем случае офицер полиции Кентукки около 2000 раз обращался к системе Flock, чтобы отслеживать передвижения своей бывшей напарницы. Другой офицер в Джорджии, который также был начальником полиции, провел более 600 обысков своей бывшей девушки и ее дочери, прежде чем покончить с собой, находясь под следствием по обвинению в преследовании и неправомерном использовании полицейского оборудования.

Эта футболка — не первая попытка Веккерта противостоять системе или донести свою точку зрения. Еще в 2020 году он протащил по Берлину тележку с 99 телефонами, чтобы имитировать пробку на Google Maps, показав, что системами, управляемыми искусственным интеллектом, легко манипулировать.