Alta autoridade de IA chama consciência de IA de "pergunta errada"

O chefe de inteligência artificial da Microsoft está se opondo aos esforços para criar máquinas aparentemente conscientes, afirmando que apenas seres vivos podem realmente experimentar a consciência.

Mustafa Suleyman disse à CNBC durante uma entrevista na Conferência AfroTech em Houston nesta semana que os pesquisadores devem abandonar o trabalho voltado para a construção de sistemas de IA que pareçam conscientes. Ele chamou isso de uma abordagem totalmente equivocada.

“Não acho que seja um trabalho que as pessoas devam estar fazendo”, disse Suleyman na conferência onde proferiu o discurso principal. “Se você fizer a pergunta errada, acabará com a resposta errada. Acho que é totalmente a pergunta errada.”

Como a principal figura da Microsoft em inteligência artificial, Suleyman tornou-se um crítico proeminente dos esforços para desenvolver serviços de IA que poderiam fazer as pessoas acreditarem que a tecnologia pode sofrer ou sentir emoções. No ano passado, ele escreveu "The Coming Wave", um livro que examina os perigos impostos pela IA e outras tecnologias emergentes semelhantes. Em agosto, publicou um ensaio argumentando a favor da construção de IA para ajudar as pessoas, em vez de imitá-las.

Crescente mercado de companheiros de IA desperta debate

Esta conversa ocorre no meio de uma corrida competitiva entre empresas de tecnologia para criar companheiros de IA, incluindo ofertas da Meta e da xAI de Elon Musk. A questão torna-se cada vez mais intricada à medida que o setor de IA generativa, liderado pela OpenAI de Sam Altman, busca a inteligência artificial geral, sistemas capazes de desempenho cognitivo de nível humano.

Altman disse em agosto que a inteligência artificial geral não é mais um termo particularmente útil. Ele disse que os modelos estão simplesmente melhorando rapidamente e que as pessoas dependerão deles para cada vez mais tarefas.

Para Suleyman, separar as crescentes capacidades da IA de qualquer possibilidade de sentimentos humanos é profundamente importante.

“Nossa experiência física da dor é algo que nos deixa muito tristes e nos faz sentir mal, mas a IA não fica triste quando experimenta ‘dor’”, Suleyman explicou. “É uma distinção muito, muito importante. É realmente apenas criar a percepção, a narrativa aparente de experiência e de si mesma e de consciência, mas isso não é o que ela está realmente experimentando. Tecnicamente, você sabe disso porque podemos ver o que o modelo está fazendo.”

Ele apontou para o naturalismo biológico, uma teoria do filósofo John Searle que afirma que a consciência requer os processos biológicos de um cérebro vivo.

"A razão pela qual damos direitos às pessoas hoje é porque não queremos prejudicá-las, porque elas sofrem. Elas têm uma rede de dor e têm preferências que envolvem evitar a dor", disse Suleyman. "Esses modelos não têm isso. É apenas uma simulação."

Suleyman reconheceu que o estudo da consciência continua sendo uma ciência em desenvolvimento. Ele não pediu para bloquear outros de pesquisar o tópico, reconhecendo que diferentes organizações têm objetivos diferentes. No entanto, ele enfatizou sua forte oposição ao conceito.

"Elas não são conscientes", disse ele. "Portanto, seria absurdo buscar pesquisas que investiguem essa questão, porque elas não são e não podem ser."

Microsoft segue caminho diferente dos concorrentes

Suleyman está viajando para falar publicamente sobre os riscos envolvidos na busca pela consciência da IA. Antes de Houston, ele apareceu na Cúpula do Conselho Internacional Paley no Vale do Silício na semana passada.

Lá, ele anunciou que a Microsoft não criará chatbots para conteúdo sexual, em contraste com os concorrentes. Como relatado por Cryptopolitan, Altman revelou em outubro que o ChatGPT agora permite que usuários adultos tenham conversas sexuais, enquanto a xAI oferece um companheiro anime provocante.

"Basicamente, você pode comprar esses serviços de outras empresas, então estamos tomando decisões sobre os lugares para os quais não iremos", disse Suleyman novamente no AfroTech.

Falando no AfroTech, Suleyman disse que escolheu a Microsoft em parte devido à sua história, estabilidade e ampla abrangência tecnológica. O CEO Satya Nadella o recrutou pessoalmente.

"A outra coisa a dizer é que a Microsoft precisava ser autossuficiente em IA", disse ele. Nadella iniciou uma missão há 18 meses para garantir que a empresa pudesse treinar seus próprios modelos completamente internamente usando seus próprios dados.