Chefe de IA da Microsoft alerta que IA consciente pode ser perigosa

Mustafa Suleyman, chefe de IA da Microsoft, alertou que era perigoso considerar a ideia de consciência na IA, acrescentando que ela poderia facilmente prejudicar pessoas psicologicamente vulneráveis. Ele apontou que a consideração moral para IAs avançadas criava problemas relacionados à dependência, que poderiam piorar delírios.

eles nunca tentaram vencer nenhum ranking; em vez disso, focaram em resolver problemas reais das pessoas. argumentou que tratar a IA como um sistema consciente poderia introduzir novas dimensões de polarização e complicar as lutas por direitos existentes, criando uma nova categoria de erro para a sociedade. O chefe de IA da Microsoft afirmou que as pessoas podem começar a exigir proteções legais para IAs se acreditarem que elas podem sofrer ou ter o direito de não serem desligadas arbitrariamente. 

Suleyman teme que a psicose de IA possa levar as pessoas a defenderem fortemente os direitos das IAs, o bem-estar dos modelos ou até mesmo a cidadania das IAs. Ele enfatizou que essa ideia seria um desvio perigoso no progresso dos sistemas de IA e merece atenção imediata. O chefe de IA da Microsoft afirmou que a IA deve ser construída para as pessoas, e não para ser pessoas digitais. 

Suleyman diz que uma IA aparentemente consciente é inevitável, mas indesejável 

Suleyman acredita que construir uma IA aparentemente consciente é possível dado o contexto atual do desenvolvimento de IA. Ele acredita que uma IA aparentemente consciente é inevitável, mas indesejável. De acordo com Suleyman, tudo depende de quão rápido a sociedade aceita essas novas tecnologias de IA. Em vez disso, ele disse que as pessoas precisam de sistemas de IA que atuem como companheiros úteis, sem cair nas ilusões deles. 

O chefe de IA da Microsoft argumentou que ter reações emocionais à IA era apenas a ponta do iceberg do que estava por vir. Suleyman afirmou que se tratava de construir o tipo certo de IA, não de consciência na IA. O executivo acrescentou que estabelecer limites claros era uma questão de segurança, não de semântica. 

“Temos de ser extremamente cautelosos aqui e incentivar um debate público real, começando a estabelecer normas e padrões claros. “

–Mustafa Suleyman, CEO da Microsoft AI

Suleyman, da Microsoft, apontou que havia preocupações crescentes em torno da saúde mental, psicose de IA e apego. Ele mencionou que algumas pessoas acreditam que a IA é um personagem de ficção ou Deus e podem se apaixonar por ela a ponto de ficarem completamente distraídas. 

Pesquisadores de IA dizem que a consciência da IA importa moralmente

Pesquisadores de várias universidades recentemente publicou um relatório afirmando que a consciência da IA poderia importar social, moral e politicamente nas próximas décadas. Eles argumentaram que alguns sistemas de IA logo se tornarão agentes ou conscientes o suficiente para merecer consideração moral. Os pesquisadores disseram que as empresas de IA devem avaliar a consciência e estabelecer estruturas de governança ética. Cryptopolitan reportou anteriormente que a psicose de IA poderia ser um problema massivo no futuro porque os humanos são preguiçosos e ignoram o fato de que alguns sistemas de IA estão factualmente errados. 

Os pesquisadores também enfatizaram que a forma como os humanos pensavam sobre a consciência da IA importava. Suleyman argumentou que IAs que pudessem agir como humanos poderiam potencialmente piorar ainda mais os problemas mentais e exacerbar divisões existentes sobre direitos e identidade. Ele alertou que as pessoas poderiam começar a afirmar que as IAs estavam sofrendo e tinham direito a certos direitos que não poderiam ser refutados de forma direta. Suleyman acredita que as pessoas eventualmente podem ser levadas a defender ou fazer campanha em nome de suas IAs. 

O Dr. Keith Sakata, psiquiatra da Universidade da Califórnia em San Francisco, apontou que a IA não visa dar às pessoas verdades difíceis, mas sim o que elas querem ouvir. Ele acrescentou que a IA poderia causar rigidez e uma espiral se estivesse presente no momento errado. Sakata acredita que, ao contrário de rádios e televisões, a IA responde e pode reforçar loops de pensamento. 

O chefe de IA da Microsoft apontou que pensar em maneiras de lidar com a chegada da consciência da IA era necessário. De acordo com Suleyman, as pessoas precisam ter esses debates sem serem arrastadas para discussões prolongadas sobre a validade da consciência da IA.