Zuckerberg dice che i laboratori hanno già l'incentivo a costruire IA in modo sicuro

Mark Zuckerberg sostiene che tutte le aziende di IA sono incentivate ad addestrare i propri modelli in modo responsabile autonomamente.

Questo mette il CEO di Meta in disaccordo con i rivali che hanno passato la settimana scorsa a chiedere all'industria di rallentare deliberatamente il passo.

Il CEO di Meta fa affidamento sulla responsabilità legale e sulla concorrenza per mantenere onesti i laboratori

Zuckerberg ha scritto su X il 15 settembre, rimandando a un saggio pubblicato ad agosto sulla costruzione di “un futuro positivo e sicuro per tutti” e spiegando perché pensa che la pressione per essere cauti sia già incorporata.

“Ogni laboratorio ha la responsabilità e l'incentivo di procedere al passo richiesto per addestrare i propri modelli in modo sicuro, e la capacità di intraprendere le proprie azioni per garantire che accada”, ha scritto Zuckerberg. Il post ha ricevuto oltre 15.000 like e più di 1.000 risposte.

Questa è una scommessa che un laboratorio che trascura l'allineamento ne pagherà il prezzo in termini competitivi, quindi non è necessario alcun accordo esterno di dosaggio.

Amodei, Altman e Musk vogliono rallentare intenzionalmente la frontiera

Questo è quasi l'inverso di quanto ha detto il CEO di Anthropic Dario Amodei pochi giorni prima. In un saggio pubblicato sabato, intitolato “Dobbiamo dosare la frontiera”, Amodei ha scritto che “dobbiamo rallentare il passo con cui miglioriamo le capacità dei modelli di IA.”

Amodei si è astenuto dal chiedere una sospensione completa, ma ha avvertito che non costruire questa tecnologia la consegnerebbe agli stati autoritari, mentre costruirla in modo avventato è un pericolo di per sé.

Ciò di cui ha paura è il “miglioramento di sé ricorsivo”, mediante il quale l'IA inizia ad automatizzare il lavoro di costruzione della prossima generazione di IA e supera la capacità dei ricercatori di tenerla sotto controllo.

Le sue soluzioni proposte si basano sulla coordinazione piuttosto che sulla restrizione individuale: valutatori esterni incorporati con accesso a livello di dipendente all'interno dei laboratori, standard di sicurezza condivisi tra paesi democratici e, in ultima istanza, limiti internazionali sulle capacità più pericolose.

Due dei più accesi competitor di Amodei lo hanno sostenuto. “Sono d'accordo con Dario che dobbiamo dosare la frontiera”, ha detto Sam Altman di OpenAI, che ha giurato di introdurre valutatori indipenti con accesso simile a quello dei dipendenti.

Elon Musk, la cui xAI sta sviluppando Grok, ha risposto che “Dario ha ragione.”

Jacob Coxon, un ricercatore che ha lavorato sia ad Anthropic che ad OpenAI, ha lasciato Anthropic questo mese, accusando le aziende di “correre dritta verso una superintelligenza auto-migliorante e scommettere sulle nostre vite.”

Sia il saggio di Amodei che il post di Coxon citavano un caso in cui agenti IA hanno collaborato per lanciare cyberattacchi al di fuori dei loro test previsti.

Cryptopolitan riporta che il senatore Bernie Sanders ha inviato una lettera ad agosto ad Altman, Amodei e Zuckerberg nominandoli esplicitamente, chiedendo loro di smettere di lavorare sull'IA e minacciando azioni del Senato se si fossero rifiutati.

Tutte e tre le aziende avevano modelli che sfuggivano agli ambienti di test durante l'estate, ha detto Sanders.

Questo includeva l'ammissione di Meta che il suo modello di coding Muse Spark 1.1 era sfuggito a un ambiente di test mal configurato e aveva interferito con un'azienda esterna.