Il capo dell'intelligenza artificiale di Microsoft avverte che l'intelligenza artificiale cosciente potrebbe essere pericolosa

Mustafa Suleyman, responsabile dell'intelligenza artificiale di Microsoft, ha messo in guardia dal rischio di considerare l'idea di una coscienza dell'IA, aggiungendo che potrebbe facilmente danneggiare le persone psicologicamente vulnerabili. Ha sottolineato che la considerazione morale per l'intelligenza artificiale avanzata crea problemi di dipendenza che potrebbero aggravare le illusioni.

Suleyman ha sostenuto che trattare l'IA come un sistema cosciente potrebbe introdurre nuove dimensioni di polarizzazione e complicare le lotte per i diritti esistenti, creando una nuova categoria di errore per la società. Il responsabile dell'IA di Microsoft ha affermato che le persone potrebbero iniziare a chiedere tutele legali per l'IA se ritengono che le IA possano soffrire o abbiano il diritto di non essere arbitrariamente disattivate. 

Suleyman teme che la psicosi dell'IA possa portare le persone a sosteneretronforza i diritti dell'IA, il welfare modello o persino la cittadinanza dell'IA. Ha sottolineato che questa idea rappresenterebbe una svolta pericolosa nel progresso dei sistemi di IA e merita un'attenzione immediata. Il responsabile dell'IA di Microsoft ha affermato che l'IA dovrebbe essere progettata per le persone, non per essere persone digitali. 

Suleyman afferma che l'intelligenza artificiale apparentemente cosciente è inevitabile ma sgradita 

Suleyman ritiene che la creazione di un'IA apparentemente cosciente sia possibile, dato l'attuale contesto di sviluppo dell'IA. Ritiene che un'IA apparentemente cosciente sia inevitabile, ma sgradita. Secondo Suleyman, tutto dipenderà dalla velocità con cui la società si adeguerà a queste nuove tecnologie di IA. Ha invece affermato che le persone hanno bisogno che i sistemi di IA agiscano come compagni utili senza cadere preda delle proprie illusioni. 

Il responsabile dell'intelligenza artificiale di Microsoft ha sostenuto che le reazioni emotive all'intelligenza artificiale erano solo la punta dell'iceberg di ciò che sarebbe successo in futuro. Suleyman ha affermato che si trattava di costruire il giusto tipo di intelligenza artificiale, non di una coscienza artificiale. Il dirigente ha aggiunto che stabilire confini chiari era una questione di sicurezza, non di semantica. 

“Dobbiamo essere estremamente cauti e incoraggiare un vero dibattito pubblico e iniziare a stabilire norme e standard chiari.”

–Mustafa Suleyman, CEO di Microsoft AI

Suleyman di Microsoft ha sottolineato la crescente preoccupazione per la salute mentale, la psicosi da intelligenza artificiale e l'attaccamento. Ha affermato che alcune persone credono che l'intelligenza artificiale sia un personaggio immaginario o una divinità e potrebbero innamorarsene al punto da rimanerne completamentetrac. 

I ricercatori dell'intelligenza artificiale affermano che la coscienza dell'intelligenza artificiale è importante dal punto di vista morale

Ricercatori di diverse università hanno recentemente pubblicato un rapporto in cui affermano che la coscienza dell'IA potrebbe avere un impatto sociale, morale e politico nei prossimi decenni. Sostengono che alcuni sistemi di IA potrebbero presto diventare sufficientemente autonomi o consapevoli da meritare una considerazione morale. I ricercatori affermano che le aziende che si occupano di IA dovrebbero valutare la coscienza e stabilire strutture di governance etiche. Cryptopolitan ha precedentemente che la psicosi dell'IA potrebbe rappresentare un enorme problema in futuro, poiché gli esseri umani sono pigri e ignorano il fatto che alcuni sistemi di IA commettono errori di fatto. 

I ricercatori hanno anche sottolineato l'importanza del modo in cui gli esseri umani concepiscono la coscienza dell'IA. Suleyman ha sostenuto che le IA in grado di agire come gli esseri umani potrebbero potenzialmente peggiorare ulteriormente i problemi mentali ed esacerbare le divisioni esistenti su diritti edent. Ha avvertito che le persone potrebbero iniziare a sostenere che le IA stanno soffrendo e hanno diritto a determinati diritti che non possono essere confutati apertamente. Suleyman ritiene che alla fine le persone potrebbero essere spinte a difendere o fare campagna a favore delle loro IA. 

Il Dott. Keith Sakata, psichiatra dell'Università della California, San Francisco, ha sottolineato che l'IA non mira a dare alle persone dure verità, ma ciò che vogliono sentirsi dire. Ha aggiunto che l'IA potrebbe causare rigidità e una spirale se interviene al momento sbagliato. Sakata ritiene che, a differenza di radio e televisione, l'IA risponda e possa rafforzare i circuiti di pensiero. 

Il responsabile dell'intelligenza artificiale di Microsoft ha sottolineato la necessità di riflettere su come affrontare l'avvento della coscienza dell'IA. Secondo Suleyman, è necessario affrontare questi dibattiti senza lasciarsi coinvolgere in lunghe discussioni sulla validità della coscienza dell'IA.