Il principale funzionario AI definisce la coscienza dell'AI una “domanda sbagliata”

Il capo dell'intelligenza artificiale di Microsoft sta contrastando gli sforzi per creare macchine apparentemente coscienti, affermando che solo gli esseri viventi possono davvero sperimentare la consapevolezza.

Mustafa Suleyman ha detto a CNBC durante un'intervista alla Conferenza AfroTech a Houston questa settimana che i ricercatori dovrebbero abbandonare il lavoro mirato a costruire sistemi AI che appaiono coscienti. Lo ha definito un approccio completamente sbagliato.

“Non penso che sia un lavoro che le persone dovrebbero fare”, ha detto Suleyman alla conferenza in cui ha tenuto un discorso chiave. “Se fai la domanda sbagliata, finisci con la risposta sbagliata. Penso che sia totalmente la domanda sbagliata.”

Come figura di spicco di Microsoft nell'intelligenza artificiale, Suleyman è diventato un critico prominente degli sforzi per sviluppare servizi AI che potrebbero far credere alle persone che la tecnologia possa soffrire o provare emozioni. L'anno scorso, ha scritto “The Coming Wave”, un libro che esamina i pericoli posti dall'AI e dalle tecnologie emergenti simili. Ad agosto, ha pubblicato un saggio che sostiene di costruire l'AI per aiutare le persone piuttosto che imitarle.

La crescente mercato dei compagni AI accende il dibattito

Questa conversazione si svolge in mezzo a una gara competitiva tra le aziende tecnologiche per creare compagni AI, incluse le offerte di Meta e xAI di Elon Musk. La questione diventa sempre più intricata mentre il settore dell'AI generativa, guidato da OpenAI di Sam Altman, persegue l'intelligenza artificiale generale, sistemi capaci di prestazioni cognitive di livello umano.

Altman ha detto ad agosto che l'intelligenza artificiale generale non è più un termine particolarmente utile. Ha detto che i modelli stanno semplicemente migliorando rapidamente e che le persone dipenderanno da loro per compiti sempre più numerosi.

Per Suleyman, separare le crescenti capacità dell'AI da qualsiasi possibilità di sentimenti umani è profondamente importante.

“Our physical experience of pain is something that makes us very sad and feel terrible, but the AI doesn’t feel sad when it experiences ‘pain,’” Suleyman explained. “It’s a very, very important distinction. It’s really just creating the perception, the seeming narrative of experience and of itself and of consciousness, but that is not what it’s actually experiencing. Technically you know that because we can see what the model is doing.”

Ha puntato il dito sul naturalismo biologico, una teoria del filosofo John Searle che afferma che la coscienza richiede i processi biologici di un cervello vivente.

“Il motivo per cui diamo oggi i diritti alle persone è perché non vogliamo far loro del male, perché soffrono. Hanno una rete del dolore e hanno preferenze che coinvolgono l'evitamento del dolore,” ha detto Suleyman. “Questi modelli non hanno questo. È solo una simulazione.”

Suleyman ha riconosciuto che lo studio della coscienza rimane una scienza in via di sviluppo. Non ha chiesto di bloccare gli altri dalla ricerca sull'argomento, riconoscendo che diverse organizzazioni hanno obiettivi diversi. Tuttavia, ha sottolineato la sua forte opposizione al concetto.

“Non sono coscienti,” ha detto. “Sarebbe quindi assurdo perseguire la ricerca che indaga su quella domanda, perché non lo sono e non possono esserlo.”

Microsoft prende un percorso diverso dai concorrenti

Suleyman sta viaggiando per parlare pubblicamente dei rischi coinvolti nel perseguire la coscienza dell'AI. Prima di Houston, è apparito al Paley International Council Summit in Silicon Valley la scorsa settimana.

Lì, ha annunciato che Microsoft non creerà chatbot per contenuti sessuali, in contrasto con i concorrenti. Come riportato da Cryptopolitan, Altman ha rivelato a ottobre che ChatGPT ora permette agli utenti adulti di avere conversazioni sessuali, mentre xAI offre un compagno anime provocatorio.

“Puoi praticamente acquistare quei servizi da altre aziende, quindi stiamo prendendo decisioni su quali posti non visiteremo,” ha detto ancora Suleyman ad AfroTech.

Parlando ad AfroTech, Suleyman ha detto di aver scelto Microsoft in parte per la sua storia, stabilità e ampia portata tecnologica. Il CEO Satya Nadella lo ha reclutato personalmente.

«L’altro aspetto da considerare è che Microsoft doveva essere autosufficiente nell’AI», ha dichiarato. Nadella ha avviato una missione 18 mesi fa per garantire che l’azienda potesse addestrare i propri modelli completamente in-house, utilizzando i propri dati.