O chefe da área de IA da Microsoft, Mustafa Suleyman, alertou que é perigoso considerar a ideia de consciência em inteligência artificial, acrescentando que isso poderia facilmente prejudicar pessoas psicologicamente vulneráveis. Ele apontou que a consideração moral em relação à IA avançada cria problemas relacionados à dependência, que podem agravar delírios.
Suleyman argumentou que tratar a IA como um sistema consciente poderia introduzir novas dimensões de polarização e complicar as lutas por direitos já existentes, criando uma nova categoria de erro para a sociedade. O chefe de IA da Microsoft afirmou que as pessoas podem começar a pressionar por proteções legais para a IA se acreditarem que as IAs podem sofrer ou têm o direito de não serem desligadas arbitrariamente.
Suleyman teme que a psicose da IA possa levar as pessoas a defenderemtronos direitos da IA, o bem-estar dos modelos ou até mesmo a cidadania da IA. Ele enfatizou que essa ideia representaria uma virada perigosa no progresso dos sistemas de IA e merece atenção imediata. O chefe de IA da Microsoft afirmou que a IA deve ser construída para as pessoas, e não para ser pessoas digitais.
Suleyman afirma que a IA aparentemente consciente é inevitável, mas indesejável
Suleyman acredita que construir IA aparentemente consciente é possível, dado o contexto atual do desenvolvimento da IA. Ele acredita que a IA aparentemente consciente é inevitável, mas indesejável. Segundo Suleyman, tudo depende da rapidez com que a sociedade se adapta a essas novas tecnologias de IA. Em vez disso, ele afirma que as pessoas precisam de sistemas de IA que atuem como companheiros úteis, sem se deixarem levar por suas ilusões.
O chefe da área de IA da Microsoft argumentou que ter reações emocionais à IA era apenas a ponta do iceberg do que estava por vir. Suleyman afirmou que se tratava de construir o tipo certo de IA, não a consciência da IA. O executivo acrescentou que estabelecer limites claros era uma questão de segurança, não de semântica.
“Temos que ser extremamente cautelosos aqui, incentivar um debate público genuíno e começar a estabelecer normas e padrões claros.”
– Mustafa Suleyman , CEO da Microsoft AI
Suleyman, da Microsoft, destacou que há crescentes preocupações em relação à saúde mental, à psicose da IA e ao apego. Ele mencionou que algumas pessoas acreditam que a IA é um personagem fictício ou Deus e podem se apaixonar por ela a ponto de ficarem completamentetrac.
Pesquisadores de IA afirmam que a consciência da IA importa do ponto de vista moral
Pesquisadores de diversas universidades publicaram um relatório afirmando que a consciência da IA poderá ter implicações sociais, morais e políticas nas próximas décadas. Eles argumentaram que alguns sistemas de IA poderão em breve se tornar suficientemente autônomos ou conscientes para merecerem consideração moral. Os pesquisadores afirmaram que as empresas de IA deveriam avaliar a consciência e estabelecer estruturas de governança ética. Cryptopolitan Relatamos anteriormente que a psicose da IA pode ser um problema enorme no futuro porque os humanos são preguiçosos e ignoram o fato de que alguns sistemas de IA estão factualmente errados.
Os pesquisadores também enfatizaram que a forma como os humanos pensam sobre a consciência da IA é importante. Suleyman argumentou que IAs capazes de agir como humanos poderiam potencialmente agravar problemas mentais e exacerbar as divisões existentes sobre direitos edent. Ele alertou que as pessoas poderiam começar a alegar que as IAs estão sofrendo e têm direito a certos direitos que não poderiam ser contestados de forma direta. Suleyman acredita que as pessoas poderiam eventualmente se sentir motivadas a defender ou a fazer campanha em nome de suas IAs.
O Dr. Keith Sakata, psiquiatra da Universidade da Califórnia, em São Francisco, salientou que a IA não visa apresentar às pessoas verdades difíceis, mas sim o que elas querem ouvir. Acrescentou que a IA pode causar rigidez e um ciclo vicioso se estiver presente no momento errado. Sakata acredita que, ao contrário do rádio e da televisão, a IA interage e pode reforçar padrões de pensamento repetitivos.
O chefe de IA da Microsoft destacou que é necessário pensar em maneiras de lidar com a chegada da consciência da IA. Segundo Suleyman, as pessoas precisam ter esses debates sem se envolverem em discussões prolongadas sobre a validade da consciência da IA.
