I Robot Assassini Non Sono Robot, Ma Umani

I robot assassini sono già sul campo di battaglia e si stanno dimostrando armi piuttosto distruttive. Dovremmo preoccuparcene – in realtà, molto preoccuparcene. Poiché hanno dimostrato il loro potenziale letale nelle guerre a Gaza e in Ucraina, le conseguenze potrebbero essere devastanti se gestiti con negligenza. Il 3 aprile, la rivista +972, una pubblicazione israeliana, ha pubblicato un rapporto sull'uso dell'IA da parte di Israele per identificare i bersagli a Gaza. 

Il sistema di IA si chiama Lavender e si dice che abbia curato liste di eliminazione di presunti membri dell'Hamás, inclusi quelli che lavorano ai ranghi inferiori. Non abbiamo idea di quanto fossero accurate le liste, ma il fatto più preoccupante è che è stato utilizzato per colpire i militanti anche se erano nelle loro case con le loro famiglie e bambini e molti civili intorno. Il grafico sottostante mostra il numero di vittime e feriti fino al 15 aprile.

Gli algoritmi dicono a chi colpire

Come è evidente dall'alto numero di morti civili e dalla vasta scala di distruzione delle infrastrutture dopo l'invasione di Israele a Gaza, il rapporto ha causato serie preoccupazioni tra le società umanitarie, i funzionari governativi e ogni individuo sensibile in tutto il mondo e negli Stati Uniti. Antonio Guterres, Segretario Generale delle Nazioni Unite, ha dichiarato di essere "profondamente turbato" e John Kirby, portavoce della Casa Bianca, ha detto che "gli Stati Uniti stavano esaminando attentamente il rapporto."

Guterres ha mostrato maggiore preoccupazione per le vittime e ha detto,

 "Nessuna parte delle decisioni di vita o morte che impattano intere famiglie dovrebbe essere delegata al calcolo freddo degli algoritmi."

Fonte: Worldpoliticsreview.

Il rapporto è stato pubblicato dopo l'incidente in cui Israele ha preso di mira e ucciso sette operatori umanitari occidentali e alcuni di loro erano ex membri del personale militare britannico. Questo ovviamente ha spinto giudici e avvocati in Gran Bretagna a fermare le vendite di armi a Israele a causa dei suoi crimini di guerra e gravi violazioni del diritto internazionale.

Un'altra dimensione del pensiero sui robot assassini

La Campagna per Fermare i Robot Assassini ha mostrato le sue preoccupazioni ma ha detto che non è ciò contro cui stavano facendo campagna dal 2012, poiché secondo loro si tratta di un sistema di elaborazione dei dati e la decisione finale di sparare rimane nelle mani umane, ma una delle loro dichiarazioni fornisce un'altra dimensione da considerare. La dichiarazione è arrivata dopo la pubblicazione della notizia, ha detto,

"Mancanza di controllo umano significativo e coinvolgimento nelle decisioni di attaccare i bersagli raccomandati."

Fonte: Worldpoliticsreview.

Questa dichiarazione usa la parola "mancanza di controllo umano significativo", che aggiunge un altro livello di complessità all'IA già condannata e ai robot assassini, e fornisce anche ai sostenitori una nuova preoccupazione da promuovere.

L'intelligenza artificiale è solitamente ritratta come qualcosa che un giorno potrebbe prendere il controllo del pianeta e causare danni catastrofici, persino l'estinzione umana. Ma un fatto più preoccupante è che le forze che li utilizzano useranno meno cautela nel mirare, renderà loro meno responsabili il che porterà a prendere decisioni non etiche in guerra come abbiamo già visto a Gaza. Quindi, alla fine, non si tratta di robot che prendono decisioni contro gli umani, ma di umani che prendono decisioni robotiche senza usare appieno le proprie capacità cognitive in situazioni così sensibili di vita o morte. Come menziona il rapporto una fonte che dice,

"La macchina l'ha fatto freddamente."

Fonte: +972mag.

C'è anche un altro angolo da considerare, questo può corrompere la capacità dei programmatori di comunicare efficacemente con i sistemi di IA, il che porterà a crimini di guerra.