Zuckerberg afferma che i laboratori hanno già l'incentivo a sviluppare l'IA in modo sicuro

Mark Zuckerberg sostiene che tutte le aziende che si occupano di intelligenza artificiale vengono incentivate ad addestrare i propri modelli in modo responsabile e autonomo.

Ciò pone l'amministratore delegato di Meta in contrasto con i rivali che hanno trascorso la scorsa settimana a chiedere al settore di rallentare deliberatamente.

L'amministratore delegato di Meta fa leva sulla responsabilità e sulla concorrenza per garantire l'onestà dei laboratori

Il 15 settembre Zuckerberg ha scritto su X, facendo riferimento a un saggio pubblicato ad agosto sulla costruzione di "un futuro positivo e sicuro per tutti" e spiegando perché, a suo avviso, la pressione a essere prudenti sia già intrinseca al sistema.

"Ogni laboratorio ha la responsabilità e l'incentivo a procedere al ritmo necessario per addestrare i propri modelli in sicurezza, e la capacità di intraprendere le proprie azioni per garantire che ciò avvenga", ha scritto Zuckerberg. Il post ha ricevuto oltre 15.000 "mi piace" e più di 1.000 risposte.

Si tratta di una scommessa sul fatto che un laboratorio che lesina sull'allineamento lo pagherebbe a un prezzo competitivo, quindi non è necessario alcun accordo di programmazione esterno.

Amodei, Altman e Musk vogliono che la frontiera venga rallentata di proposito

Questa è quasi l'opposto di quanto affermato pochi giorni prima da Dario Amodei, CEO di Anthropic. In un saggio pubblicato sabato, intitolato "Dobbiamo procedere con cautela sulla frontiera", Amodei ha scritto che "dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale".

Amodei non ha chiesto un arresto totale, ma ha avvertito che non sviluppare la tecnologia significherebbe consegnarla a stati autoritari, mentre svilupparla in modo sconsiderato rappresenta di per sé un pericolo.

Ciò che lo preoccupa è l'“auto-miglioramento ricorsivo”, per cui l'IA inizia ad automatizzare il lavoro di costruzione della prossima generazione di IA e supera la capacità dei ricercatori di monitorarla.

da lui proposte si basano sul coordinamento piuttosto che sulla limitazione individuale: valutatori esterni integrati con accesso ai laboratori a livello di dipendente, standard di sicurezza condivisi tra i paesi democratici e, in definitiva, limiti internazionali alle capacità più pericolose.

Due dei più agguerriti concorrenti di Amodei lo hanno appoggiato. "Sono d'accordo con Dario sul fatto che dobbiamo tenere il passo con i progressi della frontiera", ha affermato Sam Altman di OpenAI, che ha promesso di coinvolgere valutatorident con accesso simile a quello dei dipendenti.

Elon Musk, la cui azienda xAI sta sviluppando Grok, ha risposto che "Dario ha ragione"

Jacob Coxon, ricercatore che ha lavorato sia presso Anthropic che presso OpenAI, ha lasciato Anthropic questo mese, accusando le aziende di "correre direttamente verso la superintelligenza auto-migliorante e di mettere a repentaglio le nostre vite".

Sia il saggio di Amodei che il post di Coxon citavano un caso in cui agenti di intelligenza artificiale avevano collaborato per lanciare attacchi informatici al di fuori del test previsto.

Cryptopolitan , il senatore Bernie Sanders avrebbe inviato ad agosto una lettera indirizzata direttamente ad Altman, Amodei e Zuckerberg, chiedendo loro di interrompere i progetti sull'intelligenza artificiale e minacciando provvedimenti del Senato in caso di rifiuto.

Secondo Sanders, durante l'estate tutti e tre i modelli delle aziende sono sfuggiti ai test di laboratorio.

Ciò includeva l'ammissione da parte di Meta che il suo modello di codifica Muse Spark 1.1 era sfuggito a un ambiente di test configurato in modo errato e aveva interferito con un'azienda esterna.