L'affermazione di OpenAI su "molto poco input umano" si è sbriciolata durante una chiamata, afferma un matematico

OpenAI afferma che un modello interno ha risolto uno dei problemi più difficili della matematica. Il matematico della NYU Tristan Buckmaster dice che la storia che gli è stata raccontata su come è successo si è sbriciolata mentre era al telefono con l'azienda.

Buckmaster dice che Martínez-Zoroa merita un Premio Fields

Martedì, OpenAI ha dichiarato che uno dei suoi modelli interni aveva dimostrato un "blow-up" in tempo finito per le equazioni di Navier-Stokes forzate, uno dei sette Problemi del Millennio, ciascuno con un premio di 1 milione di dollari.

Blow-up significa che le equazioni permettono alla velocità di un fluido di diventare infinita in un punto, cosa non consentita dalla fisica.

L'azienda afferma che l'argomento è stato verificato in Lean, un linguaggio di verifica delle dimostrazioni utilizzato per confermare formalmente le dimostrazioni matematiche.

Se regge, sarebbe solo il secondo problema del Millennio mai risolto, e il primo accreditato a un'azienda di AI.

Giorni prima, Buckmaster e Levent Alpöge, un matematico che lavora per Anthropic, avevano pubblicato i loro risultati: blow-up in tempo finito sotto forzatura liscia per le equazioni di Eulero 3D incomprimibili, Boussinesq e mezzi porosi incomprimibili, formalizzati in Lean. "Raggiungimento notevole", ha dichiarato il vincitore del Premio Fields Terence Tao.

Questa parte della storia non è contestata. Lo stesso Buckmaster è molto enfatico nella sua dichiarazione riguardo alla fonte delle idee.

La linea di attacco, ha scritto, origina da Diego Córdoba e Luis Martínez-Zoroa, che hanno passato anni a costruire blow-up forzati utilizzando forzatura grezza.

Lui e Alpöge hanno utilizzato modelli linguistici di grandi dimensioni per spingere quel programma verso la forzatura liscia e Eulero. Buckmaster ha aggiunto di pensare che Martínez-Zoroa dovrebbe ricevere un Premio Fields.

Bubeck una volta chiese: "Perché rovineresti la tua carriera?"

L'annuncio di OpenAI è arrivato un giorno dopo l'account di Buckmaster, che descriveva una corsa ai ripari iniziata quando si era diffusa la voce che Anthropic avesse risolto un importante problema aperto.

Ha inviato un'email a un matematico di OpenAI giovedì 3 settembre, per evitare confusioni, sottolineando che il suo lavoro con Alpöge era una collaborazione personale e non era supportato da Anthropic o dalla NYU. Ha letto la risposta. Era cordiale e offriva persino potenza di calcolo di OpenAI.

Le chiamate sono arrivate domenica 6 settembre. Buckmaster dice che è intervenuto Sébastien Bubeck, le due parti hanno avuto un paio di conversazioni quel pomeriggio, e Alpöge non era in linea.

Gli è stato detto che un modello interno di OpenAI aveva prodotto una dimostrazione di circa 100 pagine sul blow-up di Navier-Stokes forzato, utilizzando forzatura liscia lungo le "opzioni c e d" nella dichiarazione formale del problema di Charles Fefferman.

Quello, ha scritto Buckmaster, era il modo molto ristretto che lui e Alpöge avevano selezionato segretamente, che quasi nessun altro stava seguendo. Ha detto che sentire "forzato" era un segnale di allarme rosso brillante.

"Molto poco input umano" è andato nel risultato di OpenAI, Bubeck ha detto ad Alpöge, dice Buckmaster.

Buckmaster ha scritto: "è emerso che un'intera squadra stava lavorando al problema, che questo era uno dei tanti tentativi, che il lavoro era iniziato sul problema non forzato, che il team aveva prima impostato il modello su problemi più semplici, inclusi Eulero, che persino il prompt che mi era stato mostrato era stato scritto utilizzando Codex, e che era stato utilizzato un quantitativo folle di potenza di calcolo".

Dichiara che quando ha chiesto quando è stato inviato il primo prompt, la risposta è arrivata dopo una pausa, e alla fine l'ha collocata dopo che la notizia del suo lavoro e di quello di Alpöge era arrivata a OpenAI.

Buckmaster dice che lui e Alpöge avevano tenuto le loro bozze di dimostrazione all'interno delle sessioni di OpenAI Codex e che quando ha chiesto se il modello di OpenAI potesse essere stato addestrato su quei dati, non ha ricevuto risposta.

Ha chiaramente dichiarato che non sta affermando che sia successo; sta solo affermando che la domanda è rimasta senza risposta.

Accusa anche Bubeck di aver cercato due volte di rimuovere Alpöge come autore a causa dei suoi legami con Anthropic e di avergli chiesto una volta: "Perché rovineresti la tua carriera?"

OpenAI ha negato le accuse. Bubeck ha definito le affermazioni "false e inflammatory" in un breve post su X, ha detto di essere entrato nel dibattito "seguendo le norme accademiche" e ha promesso una risposta più completa.

In una briefing martedì, Bubeck ha detto che il modello aveva raggiunto il problema di Eulero in un modo diverso dai matematici, ma che la dimostrazione completa di Navier-Stokes ha seguito un percorso simile.

La dimostrazione è stata costruita nel weekend, dopo il punto in cui Buckmaster dice che la notizia del suo risultato è arrivata a OpenAI, ha detto.

"Non abbiamo usato i loro prompt o le loro dimostrazioni per promptare i nostri modelli", ha detto.

Entrambe le parti attingono all'approccio di Córdoba, che ha detto che la coppia è "un po' in shock" e che una dimostrazione completa "sarà una grande sorpresa per noi". Il matematico dell'Università di Chicago Luis Silvestre l'ha definita una serie di giorni di discussioni incessanti in tutto il campo.