Nove matematici consiglieranno sul rilascio dei 100+ risultati matematici di OpenAI ma non possono rallentarne il passo

OpenAI ha assunto nove matematici di spicco per consigliare su come presenta e rilascia i suoi risultati matematici generati dall'IA.

L'azienda afferma che il panel non ha voce in capitolo sulla velocità della sua ricerca.

L'Istituto per lo Studio Avanzato di Princeton ospita il panel non retribuito

Il panel è chiamato Advisory Group on Mathematics and Artificial Intelligence. È ospitato presso l'Istituto per lo Studio Avanzato a Princeton, nel New Jersey, ed è disponibile online su agmai.org.

Secondo il blog di OpenAI post, il gruppo aiuta l'azienda a valutare l'importanza dei nuovi risultati e a coordinare quando e come vengono rilasciati. Valuta anche questi risultati rispetto alle norme accademiche e professionali del campo e consiglia su come servire i matematici operativi con gli strumenti di OpenAI.

Non "sarà responsabile di consigliarci su come ritmare i nostri progressi interni in matematica", ha scritto OpenAI.

OpenAI ha iniziato ad addestrare un nuovo modello interno il 28 agosto. L'azienda afferma che il modello ha da allora risolto oltre 100 problemi aperti di lunga data nella maggior parte dei rami della matematica, insieme a una presunta soluzione al Problema del Premio Millennium Navier-Stokes.

I membri iniziali sono François Charles di ENS-PSL, Camillo De Lellis di IAS e GSSI, Timothy Gowers di Collège de France e Cambridge, Martin Hairer di EPFL e Imperial College London, e Nikhil Srivastava di Berkeley e Simons Institute.

La lista è completata da Ulrike Tillmann di Oxford e INI, Ravi Vakil di Stanford, Edward Witten di IAS e Melanie Matchett Wood di Harvard.

Diversi membri hanno le proprie Medaglie Fields. OpenAI ha contattato alcuni di loro riguardo a un consiglio di amministrazione esterno, ha affermato il gruppo in un post ospite sul blog del matematico Terence Tao, e invece hanno formato un gruppo indipendente e hanno invitato altri a unirsi.

I membri non ricevono alcun pagamento da OpenAI e stabiliscono la propria adesione.

Possono emettere raccomandazioni non sollecitate. Possono commentare pubblicamente l'impatto dell'azienda.

Il gruppo ha dichiarato che offrirà lo stesso consiglio a qualsiasi laboratorio di IA i cui modelli potrebbero ridefinire il campo.

Sebbene daremo consigli, non abbiamo potere decisionale in nessuna azienda di IA, e la responsabilità per le decisioni prese da qualsiasi azienda ricadrà su quell'azienda.

Il gruppo ha dichiarato sul suo sito web. Il suo lavoro attuale è consigliare OpenAI su come rilasciare il grande lotto di risultati prodotti dal suo modello interno.

25 Vincitori della Medaglia Fields hanno avvertito i laboratori di IA il 11 settembre 11

L'11 settembre, 25 vincitori della Medaglia Fields hanno lanciato una lettera aperta intitolata "Una grave disallineamento dell'IA nella Matematica". I laboratori di IA che corrono per risolvere problemi famosi mettono a rischio il lavoro intellettuale dei matematici, afferma la lettera.

La dichiarazione elenca ora 27 vincitori della medaglia e oltre 7.800 sostenitori.

OpenAI ha citato direttamente la lettera, incorniciando la critica come motivo per coinvolgere la comunità in modo più riflessivo.

Tre dei nove consiglieri sono nella dichiarazione. Martin Hairer l'ha firmata come vincitore della Medaglia Fields, e Camillo De Lellis e Ravi Vakil l'hanno sostenuta.

Il gruppo di consulenza arriva settimane dopo che le affermazioni matematiche di OpenAI sono diventate controverse. Come Cryptopolitan ha riportato l'8 settembre, OpenAI ha dichiarato che un modello interno ha mostrato un blow-up a tempo finito per le equazioni di Navier-Stokes forzate, verificato nel linguaggio di verifica delle dimostrazioni Lean.

Qualche giorno prima, risultati correlati di blow-up sono stati pubblicati dal matematico di NYU Tristan Buckmaster e dal ricercatore di Anthropic Levent Alpöge. Ma Buckmaster ha detto che gli è stato detto che "molto poco input umano" è andato nella dimostrazione di OpenAI, un resoconto che dice essere crollato in una chiamata con l'azienda.

Buckmaster ha scritto che un'intera squadra aveva lavorato al problema e che i casi più facili, incluso Euler, sono venuti per primi. Ha aggiunto che il prompt mostrato a lui era stato generato da un prompt a Codex.

Sébastien Bubeck, il ricercatore di OpenAI al centro dello scambio, ha definito le accuse "false e inflammatory". Ha negato di aver usato i prompt o le dimostrazioni dei matematici.

OpenAI ha dichiarato che non intende reclamare il premio dell'Istituto di Matematica Clay di $1 milione.