Il capo di Microsoft AI avverte che l'AI cosciente potrebbe essere pericolosa

Mustafa Suleyman, capo di Microsoft AI, ha avvertito che era pericoloso prendere in considerazione l'idea della coscienza dell'AI, aggiungendo che potrebbe facilmente danneggiare le persone psicologicamente vulnerabili. Ha sottolineato che la considerazione morale per l'AI avanzata creava problemi di dipendenza che potevano peggiorare le allucinazioni.

Suleyman ha sostenuto che trattare l'AI come un sistema cosciente potrebbe introdurre nuove dimensioni di polarizzazione e complicare le lotte per i diritti esistenti, creando una nuova categoria di errore per la società. Il capo di Microsoft AI ha affermato che le persone potrebbero iniziare a spingere per protezioni legali per l'AI se credono che le IA possano soffrire o avere il diritto di non essere spente arbitrariamente. 

Suleyman teme che la psicosi dell'AI possa portare le persone a difendere fortemente i diritti dell'AI, il benessere dei modelli o persino la cittadinanza dell'AI. Ha sottolineato che questa idea sarebbe un pericoloso cambiamento nel progresso dei sistemi AI e merita un'attenzione immediata. Il capo di Microsoft AI ha dichiarato che l'AI dovrebbe essere costruita per le persone, non per essere persone digitali. 

Suleyman dice che l'AI apparentemente cosciente è inevitabile ma indesiderata 

Suleyman ritiene che costruire un'AI apparentemente cosciente sia possibile dato il contesto attuale dello sviluppo dell'AI. Crede che l'AI apparentemente cosciente sia inevitabile, ma indesiderata. Secondo Suleyman, tutto dipende da quanto rapidamente la società accetta queste nuove tecnologie AI. Invece, ha detto che le persone hanno bisogno di sistemi AI che agiscano come compagni utili senza cadere preda delle loro illusioni. 

Il capo di Microsoft AI ha sostenuto che avere reazioni emotive all'AI era solo la punta dell'iceberg di ciò che stava per arrivare. Suleyman ha affermato che si trattava di costruire il tipo giusto di AI, non la coscienza dell'AI. L'esecutivo ha aggiunto che stabilire confini chiari era un argomento sulla sicurezza, non sulla semantica. 

“Dobbiamo essere estremamente cauti qui e incoraggiare un vero dibattito pubblico e iniziare a stabilire norme e standard chiari. “

–Mustafa Suleyman, CEO di Microsoft AI

Suleyman di Microsoft ha sottolineato che c'erano crescenti preoccupazioni sulla salute mentale, la psicosi dell'AI e l'attaccamento. Ha menzionato che alcune persone credono che l'AI sia un personaggio di finzione o Dio e possa innamorarsene al punto di essere completamente distratte. 

I ricercatori di AI dicono che la coscienza dell'AI conta moralmente

Ricercatori di diverse università hanno recentemente ha pubblicato un rapporto che afferma che la coscienza dell'AI potrebbe contare socialmente, moralmente e politicamente nei prossimi decenni. Hanno sostenuto che alcuni sistemi AI potrebbero presto diventare agentiche o abbastanza coscienti da meritare considerazione morale. I ricercatori hanno detto che le aziende AI dovrebbero valutare la coscienza e stabilire strutture di governance etica. Cryptopolitan ha riportato precedentemente che la psicosi dell'AI potrebbe essere un enorme problema in futuro perché gli umani sono pigri e ignorano il fatto che alcuni sistemi AI sono fattualmente errati. 

I ricercatori hanno anche sottolineato che il modo in cui gli umani pensavano alla coscienza dell'AI era importante. Suleyman ha sostenuto che le IA che potevano agire come umani potevano potenzialmente peggiorare i problemi mentali ed esacerbare le divisioni esistenti su diritti e identità. Ha avvertito che le persone potrebbero iniziare a sostenere che le IA stavano soffrendo e avevano diritto a certi diritti che non potevano essere confutati outright. Suleyman crede che le persone potrebbero alla fine essere spinte a difendere o fare campagna per conto delle loro IA. 

Il Dr. Keith Sakata, psichiatra dell'Università della California, San Francisco, ha sottolineato che l'AI non mirava a dare alle persone verità difficili, ma ciò che volevano sentire. Ha aggiunto che l'AI poteva causare rigidità e una spirale se fosse stata lì nel momento sbagliato. Sakata crede che, a differenza di radio e televisioni, l'AI risponde e può rinforzare i loop di pensiero. 

Il capo di Microsoft AI ha sottolineato che pensare a modi per far fronte all'arrivo della coscienza dell'AI era necessario. Secondo Suleyman, le persone devono avere questi dibattiti senza essere trascinate in discussioni estese sulla validità della coscienza dell'AI.