Balaji Srinivasan definisce l'IA l'invenzione economicamente più utile della nostra epoca

Balaji afferma che l'IA è politeistica, non monoteistica, il che significa che non esiste un unico sistema superintelligente che governa tutto. Invece, ci sono molte IA potenti, ciascuna sostenuta da diversi attori.

Nelle sue parole: "Osserviamo empiricamente un'IA politeistica… piuttosto che un unico modello onnipotente". Questo cancella la fantasia di un'unica AGI che trasforma il mondo in graffette. Ciò che abbiamo è un equilibrio di potere tra molte combinazioni umano/IA, non una forza dominante.

Dice che l'IA al momento funziona solo "da medio a medio". Non gestisce lavori completi dall'inizio alla fine. Hai ancora bisogno di persone a entrambe le estremità: una per formulare il prompt all'IA e un'altra per verificare ciò che produce.

Quindi tutti i costi e gli sforzi reali si sono spostati ai margini: la formulazione dei prompt e la verifica. È lì che le aziende stanno ora spendendo i loro soldi, anche se l'IA accelera il centro del processo.

L'IA ti rende più intelligente, ma solo se sei già intelligente

Balaji non la chiama intelligenza artificiale. La chiama intelligenza amplificata. Perché l'IA non agisce da sola, non è pienamente agenziale, non stabilisce obiettivi a lungo termine e non può verificare il proprio output. "Devi dedicare molto sforzo alla formulazione dei prompt, alla verifica e all'integrazione di sistema", ha detto. Quindi, l'utilità dell'IA dipende da quanto sei intelligente. Se le dai istruzioni sbagliate, ti darà risultati sbagliati.

Dice anche che l'IA non ti sostituisce, ti aiuta solo a fare più lavori. Con essa, puoi arrangiarti per diventare un designer UI o un animatore di giochi accettabile. Ma non aspettarti una qualità da esperto. L'IA ti rende bravo a sufficienza per essere nella media, non eccellente. Per una qualità reale, hai ancora bisogno di specialisti.

C'è un altro lavoro che fa, ed è quello dell'ultima versione di se stessa. Midjourney ha sostituito Stable Diffusion nel flusso di lavoro. GPT-4 ha preso il posto di GPT-3. Come afferma Balaji, "l'IA non ti toglie il lavoro, toglie il lavoro alla precedente IA". Una volta che le aziende creano uno spazio per l'IA in un flusso di lavoro, come la creazione di immagini o la generazione di codice, quello spazio rimane occupato. Viene semplicemente passato al modello più nuovo e migliore.

Dice anche che l'IA è migliore nelle immagini che nel testo. È più facile per gli umani giudicare un'immagine che verificare un muro di codice o paragrafi di testo. "Le interfacce utente e le immagini possono essere facilmente verificate dall'occhio umano", dice Balaji. Con il testo, è più lento e costoso per le persone verificare l'accuratezza.

La crittografia limita ciò che l'IA può e non può fare

Balaji traccia una linea tra il modo in cui funziona l'IA e il modo in cui funziona la crittografia. L'IA è probabilistica; indovina in base ai modelli. Ma la crittografia è deterministica; si basa su una matematica rigida e dimostrabile. Quindi la crittografia diventa un confine che l'IA non può attraversare facilmente.

L'IA potrebbe violare i captcha, ma non può falsificare un saldo sulla blockchain. "L'IA rende tutto falso, ma la crittografia lo rende di nuovo reale", dice. L'IA potrebbe risolvere equazioni semplici, ma le equazioni crittografiche la bloccano ancora.

Esiste già una versione di killer AI. Sono i droni. "Ogni paese lo sta perseguendo", dice Balaji. Non sono i generatori di immagini o i chatbot a rappresentare la minaccia, ma le armi autonome. È in quest'area che l'impatto nel mondo reale dell'IA è già letale.

Sostiene che l'IA stia decentralizzando, non centralizzando. Al momento, ci sono un sacco di aziende di IA, non solo una o due grandi. Piccoli team con buoni strumenti possono fare molto. E i modelli open source si stanno migliorando rapidamente. Quindi, anche senza budget enormi, piccoli gruppi possono costruire sistemi IA potenti. Questo frammenta il potere invece di concentrarlo.

Balaji rifiuta anche l'idea che più IA sia sempre meglio. Dice che la quantità ideale non è zero, non è il 100%. "0% di IA è lento, ma il 100% di IA è spazzatura". Il vero valore si trova nel mezzo. Troppa poca IA significa che sei indietro. Troppa, e la qualità si sgretola. Lo confronta con la Curva di Laffer, un concetto economico che afferma che esiste un punto di equilibrio tra gli estremi.

Nel suo ultimo argomento, espone perché i sistemi attuali sono IA vincolate, non macchine onnipotenti. Lo scompone in quattro tipi di limiti:

• Economico: ogni chiamata API costa denaro. Utilizzare l'IA su larga scala non è gratuito.
• Matematico: l'IA non può risolvere problemi caotici o crittografici.
• Pratico: hai ancora bisogno di umani per formulare i prompt e verificare i risultati. L'IA non può completare il compito da sola.
• Fisico: l'IA non raccoglie dati del mondo reale da sola. Non può percepire il suo ambiente o interpretarlo come fanno le persone.

Conclude dicendo che questi limiti potrebbero essere rimossi in seguito. È possibile che i ricercatori futuri possano fondere il pensiero di Sistema 1 (rapido e intuitivo, come l'IA) con il pensiero di Sistema 2, che è più logico e attento, come il calcolo tradizionale. Ma al momento, è solo teoria. Rimane un problema aperto. Non esiste un'IA onnisciente. Esistono solo strumenti (strumenti costosi, limitati e competitivi) che fanno ciò che viene loro ordinato e richiedono un controllo costante.