OpenAI lancia il team 'superalignment' per affrontare direttamente i rischi della superintelligenza
pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita.
- OpenAI sta sensibilizzando sui rischi della superintelligenza dell'IA e formando un team dedicato per affrontare queste preoccupazioni.
- L'azienda sottolinea l'allineamento della superintelligenza con i valori e le intenzioni umane, oltre alla creazione di nuove istituzioni di governance.
- OpenAI riconosce che allineare l'AGI comporta rischi significativi e potrebbe richiedere uno sforzo collettivo dell'umanità.
Il CEO di OpenAI, Sam Altman, ha intrapreso una campagna globale per sensibilizzare l'opinione pubblica sui potenziali pericoli dell'intelligenza artificiale superintelligente, in cui le macchine superano l'intelligenza umana e potrebbero diventare incontrollabili.
In risposta a queste preoccupazioni, OpenAI ha recentemente annunciato la formazione di un team dedicato incaricato di sviluppare metodi per affrontare i rischi associati alla superintelligenza, che potrebbero emergere entro questo decennio.
L'azienda sottolinea che gestire efficacemente la superintelligenza richiede l'istituzione di nuove istituzioni di governance e la risoluzione della sfida critica di allineare la superintelligenza con i valori e le intenzioni umani.
OpenAI riconosce che l'allineamento dell'AGI (Intelligenza Generale Artificiale) pone rischi significativi per l'umanità e potrebbe richiedere uno sforzo collettivo da parte di tutta l'umanità, come dichiarato in un post sul blog pubblicato lo scorso anno.
Ribattezzato "Superalignment", il nuovo team è composto da ricercatori e ingegneri di prim'ordine nel campo del machine learning. Ilya Sutskever, co-fondatore e chief scientist di OpenAI, e Jan Leike, capo dell'allineamento, stanno guidando questo sforzo.
Per affrontare le sfide tecniche fondamentali dell'allineamento della superintelligenza, OpenAI si è impegnata a dedicare il 20% delle sue risorse computazionali acquisite finora al problema dell'allineamento. L'azienda prevede di risolvere queste sfide entro quattro anni.
L'obiettivo principale del team Superalignment è sviluppare un ricercatore di allineamento automatizzato di livello umano. Ciò comporta la creazione di sistemi AI in grado di allineare efficacemente i sistemi di superintelligenza, superando gli umani in velocità e precisione.
Per raggiungere questo traguardo, il team si concentrerà sullo sviluppo di un metodo di addestramento scalabile che utilizza sistemi AI per valutare altri sistemi AI. Confronteranno il loro modello risultante automatizzando la ricerca di comportamenti potenzialmente problematici. La pipeline di allineamento sarà inoltre sottoposta a rigorosi test di stress addestrando deliberatamente modelli disallineati per valutarne la rilevabilità.
Gli sforzi di OpenAI per affrontare i rischi della superintelligenza segnano un passo avanti significativo nella ricerca di uno sviluppo AI responsabile e allineato. Riunendo un team di ricercatori di alto livello e impegnando risorse computazionali sostanziali, l'azienda dimostra il suo impegno a mitigare proattivamente i potenziali rischi associati all'avvento della superintelligenza. Mentre intraprendono questo ambizioso viaggio, OpenAI stabilisce un precedente di collaborazione e unità nella salvaguardia del futuro dell'umanità nell'era dell'AI.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Mutuma Maxwell
A Maxwell piace particolarmente scrivere articoli su blockchain e criptovalute. Ha iniziato la sua avventura nel blogging nel 2020, concentrandosi successivamente sul mondo delle criptovalute. Il suo lavoro nella vita è introdurre il concetto di decentralizzazione alle persone in tutto il mondo.
