L'esplosione dell'intelligenza artificiale (IA) sta riempiendo il nostro mondo di sogni idealistici o di previsioni catastrofiche, ma nessuna delle due riesce a cogliere la vera minaccia.
Non stiamo affrontando una "grande rivolta dei robot" in cui IA o robot mettono in atto una presa di potere ostile. Dimenticate le scene dei film Terminator o Matrix: non è previsto. La tecnologia che permette alle IA di conquistare il mondo non esiste.
L'intelligenza artificiale può anche eccellere in compiti specifici, come la piegatura delle proteine o il gioco degli scacchi, ma non è in grado di costruire eserciti o governare nazioni.
Tuttavia, questa mancanza di una rivolta dei robot non significa che siamo al sicuro. L'intelligenza artificiale si sta infiltrando silenziosamente nelle nostre vite attraverso mezzi menomatic, ma altrettanto potenti: la burocrazia digitale.
Il vero pericolo non sono i robot assassini. È l'intrusione dell'intelligenza artificiale nelle decisioni che controllano la nostra vita quotidiana. Gli esseri umani si sono evoluti per temere le minacce tangibili. Pensate ai grandi predatori, come leoni e squali.
Ma siamo meno preparati a riconoscere le minacce provenienti da documenti, scartoffie o burocrazia. La burocrazia stessa è un'invenzione relativamente recente, sviluppatasi solo 5.000 anni fa con la creazione della scrittura.
Prima della stesura del trattato, ad esempio, la proprietà dipendeva da quanto concordato dalla comunità. Se si "possedeva" un appezzamento di terreno, era perché i vicini lo rispettavano. Non erano richiesti documenti.
Dalle tavolette d'argilla ai burocrati digitali
Tutto cambiò quando le persone iniziarono a usare tavolette d'argilla e registri. I documenti scritti fecero sì che i diritti di proprietà non dipendessero più dal consenso della comunità, ma da registri ufficiali. Gli antichi Mesopotamici trasformarono i blocchi di fango in simboli ufficiali di proprietà, capovolgendo il concetto stesso di proprietà.
Una sentenza del tribunale potrebbe basarsi su una tavoletta di argilla che attesta la proprietà di un terreno, anche se la comunità non fosse d'accordo. Oggi i nostri sistemi sono ancora basati su principi simili, solo che ora utilizziamo chip di silicio e registrazioni digitali al posto dell'argilla.
Questo cambiamento trasformò le strutture di potere. La proprietà divenne qualcosa che poteva essere venduto e scambiato senza il consenso della comunità locale. Emersero le burocrazie, rendendo possibili la riscossione delle tasse, il finanziamento militare e il governo centrale.
I burocrati divennero attori essenziali in questi sistemi, utilizzando registri, moduli e timbri per gestire eserciti, allocare risorse e persino controllare le leggi. Questi sistemi burocratici diedero vita a stati centralizzati con un controllo estensivo sulla popolazione, un controllo che ora sta passando all'intelligenza artificiale.
L'intelligenza artificiale non ha bisogno di creare un esercito di robot; deve solo padroneggiare i sistemi burocratici. In questi contesti, l'intelligenza artificiale può prendere decisioni più influenti di qualsiasi essere umano, come si vede oggi. Le IA stanno già decidendo se otteniamo prestiti, offerte di lavoro, ammissioni all'università e persino diagnosi mediche.
Immaginate banchieri dotati di intelligenza artificiale che determinano l'idoneità al credito, giudici dotati di intelligenza artificiale che decidono in tribunale o IA militari che calcolano gli obiettivi degli attacchi. L'intelligenza artificiale non ha bisogno di una rivolta robotica. Il potere burocratico che sta ereditando è già enorme.
Gli algoritmi dei social media, sebbene primitivi, esercitano già un potere enorme. Gli algoritmi di intelligenza artificiale, in particolare quelli di Facebook, X (ex Twitter), YouTube e TikTok, sono concepiti con un obiettivo in mente: il coinvolgimento degli utenti. Più a lungo le persone rimangono su queste piattaforme, più denaro affluisce alle aziende.
Attraverso tentativi ed errori con miliardi di utenti, questi algoritmi hanno scoperto che innescare emozioni come avidità, rabbia e paura aumenta il coinvolgimento. Quando premono questi pulsanti emozionali, mantengono gli utenti agganciati.
Questi algoritmi non si sono limitati a ottimizzare il tempo trascorso online. Sono andati oltre, scoprendo che i contenuti che suscitano emozioni intense aumentano il coinvolgimento degli utenti. Questa scoperta ha portato alla diffusione di teorie del complotto, disinformazione e divisioni sociali.
Il mondo odierno è inondato da indignazione digitale, allarmismo e polarizzazione, grazie ad algoritmi che danno priorità ai clic rispetto alla coesione. Sfruttando i trigger emotivi, gli algoritmi dei social media hanno alimentato l'attuale epidemia di teorie del complotto e fake news.
Questi "decisori" algoritmici non sono intrinsecamente dannosi. Al contrario, sono ottimizzati per svolgere il loro ruolo in modo efficiente. Tuttavia, le loro decisioni mancano dell'intuizione umana o del contesto che di solito ci aspettiamo in ambiti così importanti.
L'intelligenza artificiale potrebbe formulare giudizi più rapidi o coerenti, ma se qualcosa va storto, i risultati possono essere disastrosi. Questo potenziale rischio è già diventato evidente nell'influenza dei social media sulla società, fungendo da monito per dove potrebbe portare il potere incontrollato dell'intelligenza artificiale.
Biden stabilisce le regole dell'intelligenza artificiale per il Pentagono e le agenzie di intelligence
Ildent Joe Biden ha annunciato un memorandum sulla sicurezza nazionale con nuove regole per l'uso dell'intelligenza artificiale nella sicurezza nazionale, impedendo al Pentagono e alle agenzie di intelligence di utilizzare l'intelligenza artificiale in modi che contraddicono i valori democratici.
Questa è la prima direttiva che guida il ruolo dell'IA nella sicurezza nazionale. Le nuove norme incoraggeranno la sperimentazione dell'IA, garantendo al contempo che gli enti governativi non la utilizzino per violare diritti come la libertà di parola o minare i controlli nucleari.
"Il nostro memorandum definisce il primo quadro governativo sui nostri impegni in materia di gestione del rischio dell'IA", ha affermato il Consigliere per la Sicurezza Nazionale Jake Sullivan. Ha delineato obiettivi per evitare pregiudizi, sostenere la responsabilità e garantire la supervisione umana dell'IA nei ruoli sensibili.
Sebbene non siano giuridicamente vincolanti, le norme riguardano applicazioni di sicurezza nazionale come la sicurezza informatica, il controspionaggio e la logistica nelle operazioni militari. Lo scorso anno Biden ha inoltre imposto controlli sulle esportazioni, rallentando i progressi della Cina nel campo dell'intelligenza artificiale e limitando l'accesso alle tecnologie.
In base alla direttiva, l'AI Safety Institute di Washington sarà responsabile dell'ispezione degli strumenti di intelligenza artificiale per prevenirne l'uso improprio prima del rilascio, mentre la comunità di intelligence statunitense darà priorità al monitoraggio dei progressi dell'intelligenza artificiale in altri paesi.
