Vitalik denuncia la disparità di trattamento nel dilemma della regolamentazione della sicurezza dell'IA

Vitalik Buterin ha espresso preoccupazione per l'uso sempre più controverso del concetto teorico di "sicurezza dell'IA" da parte di aziende e governi. 

Buterin ha spiegato sulla piattaforma social X che le aziende leader nel settore dell'IA, come Anthropic, non possono dettare quali misure siano adatte o meno alla sicurezza, poiché ciò porterebbe a un sistema in cui le regole vengono create dai piùtron.

può La "sicurezza dell'IA" essere utilizzata come strumento di dominio globale?

Vitalik Buterin ha recentemente utilizzato la piattaforma social X per condividere le sue preoccupazioni riguardo al fatto che il concetto di sicurezza dell'IA venga appropriato da grandi aziende e interessi nazionali.

Ad esempio, Anthropic ha recentemente ricevuto elogi per essersi rifiutata di consentire al Dipartimento del Welfare (DoW) o ad altri enti governativi di utilizzare i suoi modelli Claude per la sorveglianza di massa o per la creazione di armi completamente autonome.

Tuttavia, l'azienda ha anche annullato il suo impegno di sicurezza "pausa in caso di rischio" , che la obbligava a interrompere incondizionatamente tutte le attività di addestramento e implementazione fino a quando le misure di sicurezza non fossero state adeguate, qualora avesse sviluppato un modello di intelligenza artificiale le cui capacità superassero la capacità dell'azienda di dimostrarne la sicurezza.

Vitalik ha fatto notare che le precedenti critiche di Anthropic nei confronti dei suoi concorrenti, accusati di aver tratto ispirazione dai risultati di Claude, avevano suscitato forti reazioni negative da parte dei critici, soprattutto in Cina, i quali sostenevano che Claude stessa avesse addestrato i propri modelli sulla vasta quantità di informazioni pubbliche disponibili su internet.

Anthropic sostiene che il problema con i concorrenti open source sia la mancanza delle necessarie misure di sicurezza e i rischi che comportano, ma perché Anthropic dovrebbe decidere quali misure di sicurezza siano appropriate?

Buterin ha affermato che le azioni di Anthropic suggeriscono un sistema in cui "le regole vengono create daitronforti"

Ha espresso il timore che, se la sicurezza dell'IA diventasse indistinguibile da una mentalità del tipo "la nostra azienda/il nostro Paese merita di governare il mondo", si creerebbe un mondo più pericoloso.

Sostiene che se le normative di sicurezza esentano inevitabilmente le organizzazioni che si occupano di sicurezza nazionale, tali normative diventeranno fragili. Ciò è particolarmente rilevante, dato che recenti notizie confermano che i principali laboratori di intelligenza artificiale stanno cercando sempre più spesso collaborazioni multimiliardarie contracdella difesa per fornire ambienti di intelligenza artificiale sicuri per uso militare.

Limitare l'intelligenza artificiale è pericoloso?

Anni fa, Vitalik è diventato uno dei maggiori donatori del Future of Life Institute (FLI). Nel 2021, ha ricevuto in dono un'enorme quantità di token Shiba Inu (SHIB) dai creatori del token. Quando la bolla delle criptovalute con il simbolo del cane era al suo apice, il valore contabile superava 1 miliardo di dollari. Vitalik si è affrettato a donare i fondi prima che l'interesse calasse e ha inviato circa 500 milioni di dollari in SHIB al FLI.

All'epoca, la FLI si concentrava su rischi come le minacce biologiche e la guerra nucleare. Tuttavia, da allora la FLI ha spostato la sua attenzione verso un'azione politica e di lobbying più aggressiva, spesso promuovendo normative che Vitalik trova preoccupanti. In particolare, non concorda con la loro strategia di inserire dei "guardiani" nei modelli di intelligenza artificiale per far sì che rifiutino le "cose ​​pericolose".

Vitalik considera queste restrizioni soluzioni fragili perché possono essere facilmente aggirate tramite jailbreaking o modifiche mirate.

Ancor più importante, teme che queste strategie conducano a uno scenario oscuro in cui l'IA open source venga bandita per mantenere un monopolio dei "buoni".

Vitalik, invece, propone un sistema chiamato accelerazionismo difensivo (d/acc). Questa filosofia suggerisce che il modo migliore per gestire le tecnologie pericolose sia quello di costruire e rendere open source gli scudi prima di tutto.

Di recente ha stanziato 40 milioni di dollari per progetti come hardware sicuro, biodifesa e sicurezza informatica, a sostegno della sua ideologia.

L'hardware sicuro rende i chip dei computer inattaccabili, impedendone l'utilizzo per lo spionaggio di massa. La biodifesa prevede lo sviluppo di sistemi avanzati di filtraggio dell'aria e test PCR passivi per individuare e fermare tempestivamente le pandemie. Gli investimenti nella sicurezza informatica miglioreranno la verificabilità del software, in modo che gli attacchi basati sull'intelligenza artificiale non possano facilmente compromettere le infrastrutture critiche.