L'ascesa dell'IA nel processo decisionale

L'esplosione dell'intelligenza artificiale (IA) sta riempiendo il nostro mondo di sogni idealistici o previsioni apocalittiche, tuttavia nessuna di queste cattura la vera minaccia.

Non stiamo affrontando una "grande ribellione dei robot" in cui le IA o i robot organizzano un colpo di stato ostile. Dimentica le scene dei film Terminator o Matrix – non è nelle carte. La tecnologia per le IA di conquistare il mondo non esiste.

L'IA potrebbe eccellere in compiti specifici, come piegare le proteine o giocare a scacchi, ma non è capace di costruire eserciti o governare nazioni.

Tuttavia, questa mancanza di un'insurrezione robotica non significa che siamo al sicuro. L'IA si sta infiltrando silenziosamente nelle nostre vite attraverso mezzi meno drammatici, ma ugualmente potenti: la burocrazia digitale.

Il vero pericolo non sono i robot killer. È l'incrociamento dell'IA nelle decisioni che controllano le nostre vite quotidiane. Gli esseri umani si sono evoluti per temere le minacce tangibili. Pensa ai grandi predatori, come leoni e squali.

Ma siamo meno preparati a individuare le minacce provenienti da moduli, documenti o burocrazia. La burocrazia stessa è un'invenzione relativamente nuova, essendosi sviluppata solo 5.000 anni fa con la creazione della scrittura.

Prima della scrittura, la proprietà, ad esempio, dipendeva da ciò che la comunità concordava. Se "possedevi" un appezzamento di terra, era perché i tuoi vicini lo rispettavano. Non erano richiesti documenti. 

Dalle tavolette di argilla ai burocrati digitali

Tutto è cambiato quando le persone hanno iniziato a utilizzare tavolette d'argilla e registri. I documenti scritti significavano che i diritti di proprietà non riguardavano più il consenso della comunità, ma i registri ufficiali. Gli antichi mesopotamici trasformavano blocchi di fango in simboli ufficiali di proprietà, capovolgendo l'idea di possesso.

Una decisione giudiziaria poteva basarsi su una tavoletta d'argilla che attestava la tua proprietà di un pezzo di terra, anche se la comunità non era d'accordo. Passiamo ai giorni nostri: i nostri sistemi sono ancora costruiti su principi simili, solo che ora utilizziamo chip di silicio e registri digitali invece dell'argilla.

Questo cambiamento ha trasformato le strutture di potere. La proprietà è diventata qualcosa che poteva essere venduta e scambiata senza il benestare della comunità locale. Sono emerse burocrazie, rendendo possibili la riscossione delle tasse, il finanziamento militare e il governo centrale.

I burocrati sono diventati attori essenziali in questi sistemi, utilizzando registri, moduli e timbri per gestire gli eserciti, allocare le risorse e persino controllare le leggi. Questi sistemi burocratici hanno dato origine a stati centralizzati con un controllo esteso sulle loro popolazioni, un controllo che ora si sta spostando verso l'IA.

L'IA non ha bisogno di sollevare un esercito di robot; deve solo padroneggiare i sistemi burocratici. All'interno di questi framework, l'IA può prendere decisioni più influenti di qualsiasi essere umano, come si vede oggi. Le IA stanno già decidendo se ottenere prestiti, offerte di lavoro, ammissioni universitarie e persino diagnosi mediche.

Immagina banchieri IA che determinano l'idoneità al credito, giudici IA che emettono sentenze nei casi giudiziari o IA militari che calcolano i bersagli degli attacchi. L'IA non ha bisogno di una ribellione robotica. Il potere burocratico che sta ereditando è già enorme.

IA nei social media e nell'influenza pubblica

Gli algoritmi dei social media, sebbene primitivi, stanno già esercitando un potere enorme. Gli algoritmi IA, in particolare quelli di Facebook, X (ex Twitter), YouTube e TikTok, sono progettati con un unico obiettivo in mente: l'engagement degli utenti. Più a lungo le persone rimangono su queste piattaforme, più denaro fluisce verso le corporation. 

Attraverso tentativi ed errori con miliardi di utenti, questi algoritmi hanno scoperto che innescare emozioni come avidità, rabbia e paura aumenta l'engagement. Quando premono questi pulsanti emotivi, tengono gli utenti incollati.

Questi algoritmi non si sono fermati all'ottimizzazione del tempo trascorso online. Sono andati oltre, scoprendo che i contenuti che provocano emozioni intense aumentano l'engagement degli utenti. Questa scoperta ha portato alla diffusione di teorie del complotto, disinformazione e divisioni sociali.

Il mondo oggi è inondato di indignazione digitale, incitamento alla paura e polarizzazione, grazie ad algoritmi che privilegiano i click sulla coesione. Sfruttando i trigger emotivi, gli algoritmi dei social media hanno alimentato l'epidemia odierna di teorie del complotto e fake news.

Questi "decisori" algoritmici non sono intrinsecamente malvagi. Al contrario, sono ottimizzati per svolgere i loro ruoli in modo efficiente. Tuttavia, le loro decisioni mancano dell'intuizione o del contesto umano che di solito ci aspettiamo in aree così importanti.

L'IA potrebbe emettere giudizi più rapidi o più coerenti, ma se qualcosa va storto, i risultati possono essere disastrosi. Questo potenziale rischio è già diventato visibile nell'influenza dei social media sulla società, fungendo da monito su dove il potere incontrollato dell'IA potrebbe condurre.

Biden stabilisce regole per l'IA presso il Pentagono e le agenzie di intelligence

Il presidente Joe Biden ha annunciato un memorandum sulla sicurezza nazionale con nuove regole per l'uso dell'IA nella sicurezza nazionale, impedendo al Pentagono e alle agenzie di intelligence di utilizzare l'IA in modi che contraddicono i valori democratici.

Questa è la prima direttiva che guida il ruolo dell'IA nella sicurezza nazionale. Le nuove regole incoraggeranno la sperimentazione dell'IA assicurandosi che gli enti governativi non utilizzino l'IA per violare diritti come la libertà di espressione o minare i controlli nucleari.

«Il nostro memorandum dirige il primo framework a livello di governo sui nostri impegni di gestione del rischio dell'IA», ha dichiarato il Consigliere per la Sicurezza Nazionale Jake Sullivan. Ha delineato obiettivi per evitare pregiudizi, mantenere la responsabilità e garantire la supervisione umana dell'IA in ruoli sensibili.

Sebbene non vincolanti legalmente, le regole coprono applicazioni di sicurezza nazionale come la cybersecurity, la controspionaggio e la logistica nelle operazioni militari. Biden ha anche emanato controlli all'esportazione lo scorso anno, rallentando i progressi dell'IA in Cina limitando l'accesso alla tecnologia.

Ai sensi della direttiva, l'Istituto per la Sicurezza dell'IA di Washington sarà responsabile dell'ispezione degli strumenti IA per prevenire l'uso improprio prima del rilascio, con la comunità di intelligence degli Stati Uniti che dà priorità al monitoraggio dei progressi dell'IA in altri paesi.