Sam Altman di OpenAI chiede di rallentare la corsa all'IA mentre attori statali dirottano Anthrop per scopi di produzione di armi biologiche
Foto di Solen Feyissa su Unsplash.
- Sam Altman ha comunicato questa settimana allo staff di OpenAI che l'azienda è disposta a rallentare lo sviluppo dell'IA di frontiera se i concorrenti faranno lo stesso.
- Secondo quanto riportato da Anthropic, alcuni scienziati legati al governo avrebbero tentato di utilizzare Claude per ricerche che potrebbero supportare lo sviluppo di armi biologiche.
- I legislatori della California e di Washington discutono di norme obbligatorie, mentre i più grandi laboratori di intelligenza artificiale si trovano ad affrontare rivolte interne per la sicurezza e possibili offerte pubbliche iniziali.
Questa settimana, lo staff di OpenAI è stato informato che il laboratorio di intelligenza artificiale sarebbe disposto a rallentare il ritmo del proprio lavoro nelle aree più avanzate dell'IA. Sam Altman ha esteso la stessa proposta ai concorrenti nel campo dell'IA, tra cui Anthropic, che ha riconosciuto i rischi associati allo sviluppo dell'IA in un rapporto in cui si rivelava che scienziati legati a istituzioni statali avevano tentato di utilizzare i suoi modelli Claude per la ricerca sulle armi biologiche.
OpenAI ha dichiarato di aver già sospeso alcune sessioni di addestramento interne e di aver semplificato alcune fasi dello sviluppo dei modelli per motivi di sicurezza.
La pubblicazione sequenziale di queste informazioni sta alimentando il dibattito sull'opportunità che il settore si stia muovendo troppo velocemente in vista delle offerte pubbliche iniziali, come entrambe le società continuano a suggerire.
Perché Altman vuole rallentare lo sviluppo dell'intelligenza artificiale?
Sam Altman, amministratore delegato di OpenAI, durante una riunione aziendale, ha informato i presenti che il laboratorio di intelligenza artificiale, insieme ad altri laboratori consenzienti, potrebbe rallentare il ritmo di rilascio dei modelli di frontiera.
Data la natura volontaria di tali accordi, Altman ha ammesso che non tutte le aziende aderiranno al piano, secondo fonti citate da Bloomberg.
Questo scetticismo ha undent. Tre anni fa, nel marzo 2023, Elon Musk, Steve Wozniak e oltre 1.000 altre persone firmarono una lettera aperta per sospendere per sei mesi i lavori sull'intelligenza artificiale avanzata.
Come riportato all'epoca, i laboratori non hanno effettivamente rispettato la moratoria concordata congiuntamente.
L'appello sui rischi dell'IA è stato lanciato anche in un post del 6 settembre dal responsabile scientifico di OpenAI, Jakub Pachocki, che ha chiesto alle aziende del settore di coordinarsi "per rallentare lo sviluppo futuro, se necessario". Pachocki ha espresso la speranza che i rallentamenti volontari "diventino la norma fino a quando non saranno stabiliti standard di sicurezza condivisi"
A luglio, Altman ha dichiarato di aver informato i funzionari della Casa Bianca della necessità di frenare lo sviluppo dell'intelligenza artificiale. Insieme al CEO di Anthropic, Dario Amodei, Altman aveva anche firmato in precedenza una breve dichiarazione in cui si affermava che l'IA rappresentava un rischio di estinzione su scala sociale.
È possibile utilizzare i modelli di intelligenza artificiale per costruire armi biologiche?
I modelli di intelligenza artificiale hanno raggiunto un livello di sviluppo tale da poter potenzialmente supportare la ricerca sulle armi biologiche. Proprio questa settimana, OpenAI ha annunciato che i suoi modelli hanno risolto il problema matematico delle equazioni di Navier-Stokes, sebbene in circostanze controverse.
Anthropic ha fornito nuovo materiale per quel dibattito quando il rapporto di intelligence sulle minacce di 154 pagine del laboratorio , pubblicato il 10 settembre, ha descritto in dettaglio cinque casi in cui i ricercatori tentano di utilizzare le capacità di Claude per supportare il loro lavoro sulle armi biologiche.
Anthropic ha affermato che i tentativi provenienti da "regioni non supportate" miravano a eludere le restrizioni geografiche e a mascherare lo scopo del loro lavoro. Il laboratorio ha dichiarato di aver rimosso gli account, ma non ha specificato i nomi dei paesi o delle istituzioni coinvolte.
I rischi legati all'intelligenza artificiale hanno ormai superato i benefici?
Le notizie sono giunte in un momento di crescente allarme pubblico proveniente dall'interno dei laboratori. L'8 settembre, il ricercatore Jacob Coxon si è dimesso e ha accusato sia OpenAI che Anthropic di "giocare con le nostre vite", affermando che i colleghi ritengono che la tecnologia potrebbe "ucciderci tutti entro la fine del decennio" e avvertendo dell'estinzione umana entro il 2030.
Il suo post ha totalizzato oltre 150 milioni di visualizzazioni. Due giorni dopo, il 10 settembre, ex dipendenti di Anthropic e DeepMind di Google hanno espresso preoccupazioni simili e hanno chiesto maggiore trasparenza.
Una petizione lanciata a fine luglio per creare un meccanismo che rallenti lo sviluppo dell'intelligenza artificiale ha raccolto le firme di oltre 1.000 lavoratori delle principali aziende del settore.
OpenAI sta ora esercitando pressioni sul Congresso affinché vengano emanate norme di sicurezza obbligatorie, basate sulle capacità, che riguardino i test, le valutazionident , la sicurezza informatica e la segnalazionedent . "La prospettiva di uno sviluppo dell'IA accelerato dall'intelligenza artificiale richiede più di semplici impegni volontari", ha scritto Chris Lehane, responsabile degli affari globali.
La California è stata la prima a muoversi: il governatore Gavin Newsom ha firmato mercoledì la SB 813 e la AB 1405, insieme a una legge complementare, la AB 1864, volta a proteggere dalle minacce biologiche basate sull'intelligenza artificiale.
A Washington, il senatore Bernie Sanders ha presentato una proposta di legge per sospendere lo sviluppo dell'intelligenza artificiale avanzata e vietare la superintelligenza artificiale, dichiarando alla BBC che ignorare gli avvertimenti degli scienziati significherebbe essere "un idiota".
Ildent Donald Trump ha replicato, affermando giovedì di temere che "se non vinciamo nell'IA, ci troveremo in una situazione molto difficile"
Le menti più brillanti del mondo delle criptovalute leggono già la nostra newsletter. Vuoi partecipare? Unisciti a loro.
Domande frequenti
Cosa ha detto Sam Altman ai dipendenti di OpenAI?
Nel corso di una riunione aziendale tenutasi questa settimana, Altman ha affermato che OpenAI potrebbe rallentare il ritmo dello sviluppo della sua intelligenza artificiale all'avanguardia, potenzialmente in coordinamento con altri laboratori leader del settore, pur precisando che alcune aziende potrebbero non essere d'accordo.
Cosa ha rilevato Anthropic nel suo rapporto sulle minacce relative alle armi biologiche?
Il rapporto di 154 pagine di Anthropic descriveva cinque casi in cui i ricercatori, alcuni legati a istituzioni statali, avevano utilizzato Claude in modi che potevano favorire lo sviluppo di armi biologiche, tra cui uno studio sulla chikungunya collegato a un istituto di ricerca militare; l'azienda ha bloccato gli account coinvolti.
In che modo i legislatori stanno rispondendo alle preoccupazioni sulla sicurezza dell'IA?
Mercoledì il governatore della California Gavin Newsom ha firmato diverse leggi di regolamentazione sull'intelligenza artificiale, tra cui una mirata alle minacce biologiche basate sull'IA, mentre il senatore statunitense Bernie Sanders ha presentato una proposta di legge per sospendere l'IA avanzata e vietare la superintelligenza artificiale.
Disclaimer. Le informazioni fornite non costituiscono consulenza di trading. Cryptopolitan/ non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni fornite in questa pagina. Consigliamotronvivamente di effettuare ricerche indipendentident di consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi dieci anni di esperienza nella scrittura di blog e nella cronaca di eventi nel settore delle criptovalute. Collabora con Cryptopolitan, occupandosi della pagina notizie e analizzando gli ultimi sviluppi in ambito DeFi, RWA, regolamentazione delle criptovalute, intelligenza artificiale e tecnologie all'avanguardia. Si è laureata in Economia aziendale presso l'Università di Arcadia.
