Questa maglietta con "mimetizzazione digitale" può davvero nasconderti dalle telecamere di sorveglianza dotate di intelligenza artificiale?

L'artista berlinese Simon Weckert ha creato una camicia con bottoni chiamata Digital Camouflage che le telecamere di sorveglianza dotate di intelligenza artificiale non riescono a riconoscere come un essere umano.

La creazione del capo d'abbigliamento è una risposta diretta al sistema video basato sull'intelligenza artificiale che entrerà in funzione questo mese presso il nodo di trasporto pubblico di Kottbusser Tor.

In che modo una maglietta può proteggerti dalla sorveglianza?

Simon Weckert, un artista berlinese, ha lanciato una maglietta chiamata Digital Camouflage, che a quanto pare è in grado di ridurre la capacità di un software di rilevamento di oggetti di riconoscere un essere umano.

Weckert ha affermato che questi sistemi non hanno mai realmente imparato cosa sia una persona, ma solo a cosa tendono ad assomigliare le persone attraverso milioni di foto di addestramento: contorni e texture nei primi strati, poi il profilo della testa e delle spalle e le proporzioni degli arti negli strati più profondi.

Digital Camouflage sfrutta questo metodo di addestramento con un vistoso intreccio di forme rosa, arancioni e verdi.

Weckert ha spiegato che i colori saturi illuminano i primi strati di una rete, mentre le forme sovrapposte distorcono il contorno del corpo al punto che il rilevatore non riesce a ricomporre i pezzi in un'unica figura.

Agli occhi di un essere umano, la maglietta sembra una stampa hawaiana ipnotica, ma per i dispositivi di sorveglianzanon significa nulla.

Weckert ha creato il modello attraverso un "ciclo avversariale", in cui generava un'impronta candidata, la mostrava a un rilevatore, misurava quanto il software fosse ancora sicuro di aver individuato una persona, quindi apportava modifiche e ripeteva il processo finché non otteneva risultati soddisfacenti.

Secondo quanto riferito, avrebbe utilizzato un metodo generativo denominato TC-EGA (Toroidal-Cropping-based Expandable Generative Attack) per eseguire quei test e avrebbe confrontato i risultati con YOLO, un sistema di rilevamento in tempo reale open-source basato sulla stessa tecnologia utilizzata in molti prodotti di sorveglianza commerciali.

Weckert ha però chiarito che la maglietta non era stata progettata per eludere una specifica telecamera governativa, ma per mettere in discussione quanta fiducia meriti un sistema se un tessuto economico può ingannarlo.

Sul suo sito web, sottolinea che la maglietta "non è una promessa di anonimato" e non fa alcuna affermazione riguardo a specifiche implementazioni, proprio perché gli estranei non possono testare tali sistemi. Il capo viene venduto a circa 88 dollari, e una parte del ricavato di ogni vendita viene devoluta a gruppi che si battono per i diritti civili digitali.

Perché improvvisamente le persone cercano protezione dalla sorveglianza?

Sul sito web di Weckert si spiega che delle telecamere, da lui definite "scanner comportamentali", saranno installate a Kottbusser Tor, una trafficata stazione della metropolitana nel quartiere di Kreuzberg a Berlino. Il software è progettato per classificare i passanti in "normali" e "sospetti". Weckert ritiene che altre tre località di Berlino saranno le prossime a essere interessate dall'installazione.

Negli Stati Uniti, il governatore del Texas Greg Abbott ha ordinato giovedì sera alle agenzie statali di interrompere i finanziamenti a Flock Safety, la cui azienda possiede oltre 120.000 lettori di targhe in 49 stati. Il senatore repubblicano Josh Hawley ha inoltre avviato un'indagine sulle modalità di gestione dei dati raccolti dall'azienda.

I lettori di targhe di Flock Safety hanno suscitato notevoli polemiche in seguito a segnalazioni di agenti delle forze dell'ordine che avrebbero abusato gravemente del sistema per scopi personali, come tracex fidanzate, coniugi e rivali in amore.

In un caso estremo, un agente del Kentucky ha acceduto al sistema Flock circa 2.000 volte per monitorare gli spostamenti della sua ex collega. Un altro agente in Georgia, che era anche capo della polizia, ha effettuato oltre 600 perquisizioni della sua ex fidanzata e di sua figlia prima di togliersi la vita mentre era sotto processo per stalking e uso improprio di attrezzature di polizia.

Questa maglietta non è il primo tentativo di Weckert di ribellarsi al sistema o di lanciare un messaggio. Già nel 2020, aveva trascinato un carro con 99 telefoni per le strade di Berlino per simulare un ingorgo su Google Maps, dimostrando quanto siano facilmente manipolabili i sistemi basati sull'intelligenza artificiale.