Meta rilascia strumenti AI, incluso uno che verifica l'accuratezza di altri modelli AI

Meta Platforms ha rilasciato venerdì una serie di nuovi prodotti AI, incluso un "Self-Taught Evaluator" in grado di verificare l'accuratezza di altri modelli AI. Il modello è quindi in grado di offrire un minore coinvolgimento umano nel processo di sviluppo dei modelli AI.

La società madre di Facebook e Instagram ha annunciato venerdì il rilascio dei nuovi modelli AI dopo aver introdotto lo strumento in un articolo di agosto che spiegava in dettaglio come si affida alla stessa tecnica di "catena di pensiero" utilizzata dai pari, il creatore di ChatGPT OpenAI ha recentemente rilasciato i modelli 01.

Ciò dovrebbe consentire al modello AI di effettuare giudizi affidabili sulle risposte dei modelli.

Meta vuole affrontare le sfide delle imprecisioni

Secondo un articolo di Reuters, il modello può verificare e migliorare l'accuratezza delle risposte a problemi difficili, come quelli in materie come scienza, matematica e programmazione, poiché implica la scomposizione di problemi complessi in passaggi logici più piccoli.

Meta ha rivelato che le sue intenzioni includono affrontare le sfide riscontrate con altri modelli AI come ChatGPT, oltre alle critiche per risposte obsolete e inaccurate.

I ricercatori di Meta avrebbero utilizzato dati interamente generati dall'AI per addestrare il modello valutatore, rimuovendo l'input umano in quella fase.

Due dei ricercatori di Meta hanno detto a Reuters che la capacità di utilizzare l'AI per valutare in modo affidabile altri modelli AI offre uno sguardo a un possibile percorso verso la costruzione di autonome che possono imparare dai propri errori.

"Speriamo che, man mano che l'AI diventa sempre più super-umana, diventi sempre migliore nel controllare il proprio lavoro, in modo da essere effettivamente migliore della media umana." Ricercatore Jason Weston.

"L'idea di essere auto-didatta e in grado di auto-valutarsi è fondamentalmente cruciale per l'idea di raggiungere questo tipo di livello super-umano di AI," ha aggiunto.

Meta si sta muovendo verso un'AI autonoma

Secondo i ricercatori, gli stakeholder del settore AI vedono questi agenti come assistenti digitali abbastanza intelligenti da eseguire una varietà di compiti senza intervento umano.

I ricercatori sostengono che i modelli auto-miglioranti potrebbero eliminare la necessità di un processo spesso costoso e inefficiente utilizzato oggi chiamato Reinforcement Learning from Human Feedback. Questo richiede l'input di annotatori umani che devono avere competenze specializzate per etichettare i dati accuratamente e verificare che le risposte a query matematiche e di scrittura complesse siano corrette.

I colleghi del settore come Google e Anthropic hanno anche pubblicato articoli di ricerca sul concetto di RLAIF, o Reinforcement Learning from AI Feedback.

Tuttavia, a differenza di Meta, queste altre aziende tendono a non rilasciare i loro modelli per l'uso pubblico.

Gli esperti del settore AI hanno sostenuto che l'uso dell'AI per verificare l'AI è significativo per la costruzione di applicazioni AI autonome in grado di operare senza intervento umano. Ciò significa che alla fine i modelli AI impareranno dai propri errori, si autocorrigeranno e miglioreranno senza alcun input umano.

Il gigante dei social media ha anche rilasciato altri strumenti, incluso un aggiornamento del suo modello di identificazione delle immagini Segment Anything Model (SAM), uno strumento che accelera i tempi di generazione delle risposte LLM e dataset che possono essere utilizzati per aiutare la scoperta di nuovi materiali inorganici.