Un ricercatore di sicurezza di alto livello si dimette da Anthropic con un avvertimento criptico

Un ricercatore di sicurezza di primo piano di Anthropic, Mrinank Sharma, ha annunciato le sue dimissioni dall’azienda questa settimana in un post su X. Questa decisione di Sharma sembra essere guidata dalle sue preoccupazioni riguardo allo stato attuale dell’IA e del mondo

Mrinank Sharma ha guidato il Safeguards Research Team di Anthropic, un’importante azienda di intelligenza artificiale il cui modello linguistico di grandi dimensioni (LLM), Claude, è ampiamente considerato un principale concorrente di ChatGPT di OpenAI. La partenza di Sharma è stata piuttosto improvvisa, poiché il Safeguards Research Team è stato lanciato ufficialmente solo nel febbraio dello scorso anno. Il focus principale del team era identificare, comprendere e aiutare a mitigare i rischi associati ai sistemi di IA distribuiti da Anthropic, come Claude.

Questa improvvisa partenza di un ricercatore di sicurezza di alto livello in una delle più grandi aziende di IA degli Stati Uniti ha suscitato grande controversia sui social media. Forse l’aspetto più notevole della lettera di dimissioni è stato quando Sharma ha avvertito cripticamente che «il mondo è in pericolo». Ha attribuito questo «non solo all’IA o alle bioweapon», ma a «una serie interconnessa di crisi che si stanno svolgendo in questo stesso momento». Questo è stato interpretato da molte persone come un avvertimento sui rischi esistenziali derivanti dai progressi dell’IA. Le dimissioni di Sharma fanno parte di una tendenza più ampia, preoccupante e accelerante di dimissioni di dipendenti di alto profilo nelle aziende di IA recentemente.

Interpretare la lettera di dimissioni di Sharma

Mrinank Sharma ha iniziato la lettera affrontando brevemente il suo background e ciò che lo ispira, in particolare «una disponibilità a prendere decisioni difficili e a difendere ciò che è giusto». Ha anche parlato dei suoi contributi ad Anthropic, tra cui lo sviluppo e il dispiegamento di difese «per ridurre i rischi derivanti dal bioterrorismo assistito dall’IA», e la scrittura di uno dei primi casi di sicurezza dell’IA. Il suo progetto finale è stato «comprendere come gli assistenti IA potrebbero renderci meno umani o distorcere la nostra umanità».

Tuttavia, la parte della sua lettera che ha suscitato la maggiore preoccupazione è stata il terzo paragrafo. Sebbene non abbia accusato direttamente Anthropic di alcun illecito o detto esplicitamente che l’IA ci ucciderà tutti, ha usato molto linguaggio filosofico per spiegare le sue dimissioni. Ha affermato che «sembriamo raggiungere una soglia in cui la nostra saggezza deve crescere in misura uguale alla nostra capacità di influenzare il mondo, altrimenti dovremo affrontare le conseguenze». Questo è stato seguito dalla sua affermazione: «Ho visto ripetutamente quanto sia difficile far davvero governare le nostre azioni dai nostri valori». Ha anche descritto il mondo in pericolo a causa di una serie di crisi interconnesse, che ha descritto in una nota a piè di pagina come una «poli-crisi» sostenuta da una «meta-crisi».

Questo linguaggio allude al fatto che la sua partenza da Anthropic è stata innescata più da una divergenza filosofica rispetto a qualsiasi tipo di disputa interna all’azienda. Descrivendo il momento attuale come una «poli-crisi» sostenuta da una «meta-crisi», Sharma sembra puntare a un problema strutturale molto più ampio che affligge la società e, di conseguenza, lo sviluppo dell’IA. La tecnologia si sta evolvendo più velocemente della saggezza collettiva, e i sistemi e i poteri attuali che gestiscono e influenzano il suo sviluppo non sono adeguatamente attrezzati per farlo nello stato attuale del mondo.

Il messaggio più ampio della lettera di Sharma

Il messaggio più ampio della lettera di dimissioni di Sharma è multifaccettato ed esistenziale. Da un lato, sembra credere che ci sia un problema fondamentale nel modo in cui le aziende tecnologiche navigano l’accelerazione dello sviluppo dell’IA all’interno di un sistema competitivo. Le potenze globali sono in una corsa agli armamenti per superarsi a vicenda nell’IA e in altri progressi tecnologici, con la spesa globale per la tecnologia destinata a raggiungere i 5,6 trilioni di dollari nel 2026. Ciò significa che le aziende di IA non stanno solo innovando e costruendo prodotti, ma sono una componente cruciale del conflitto geopolitico. Inoltre, queste aziende hanno una responsabilità fiduciaria di performare bene per gli azionisti, creando un incentivo a superare i rivali nei progressi tecnologici.

Ciò favorisce un ambiente in cui i principi e le procedure di sicurezza devono anche allinearsi alle pressioni di mercato, alla competitività nazionale e alle aspettative degli investitori. Tuttavia, mentre le aziende di IA si espandono rapidamente e avanzano nelle loro capacità, devono identificare, comprendere e mitigare i rischi che ne derivano. Il problema che Sharma sembra affrontare è che il sistema attuale in cui operano le aziende di IA privilegia naturalmente la crescita rispetto alla sicurezza e alle considerazioni etiche. Le implicazioni di questa dinamica sono esistenzialmente profonde e costituiscono una grande fonte di preoccupazione. Un uomo come Sharma, che sembra essere di buona integrità, semplicemente non poteva continuare a operare all’interno di questo sistema senza compromettere i suoi valori, portandolo a ritirarsene completamente.