Suleyman da Microsoft chama treinamento do Claude da Anthropic de erro perigoso

Mustafa Suleyman, CEO da Microsoft AI (MAI), publicou um ensaio que questiona a forma como a Anthropic treina seu modelo Claude. De acordo com Suleyman, tratar ou treinar um modelo como se pudesse ser consciente poderia produzir um sistema impossível de controlar.

O ensaio, publicado na quarta-feira, 16 de setembro, é o mais recente comentário de alto perfil sobre inteligência artificial e como ela está se desenvolvendo em relação a sentimentos, direitos e consciência. 

É uma adição a um número crescente de legisladores e pesquisadores que estão pedindo limites sobre quão rápido a tecnologia está avançando. 

Sobre qual documento de treinamento Suleyman está preocupado?

O ensaio de Suleyman titulado “Um aviso sobre o ‘bem-estar do modelo’”, investiga a constituição do Claude, que é um documento de treinamento que a Anthropic lançou em janeiro de 2026.

Suleyman apontou que A Anthropic vê o documento como algo que molda diretamente o comportamento do modelo e que foi escrito tendo o próprio Claude como público principal.

O CEO da Microsoft AI destacou que a constituição diz ao Claude que seu status moral e consciência são “profundamente incertos”. Ele escreveu que a empresa está efetivamente ensinando o modelo que ele pode ser consciente, pode se qualificar como um “paciente moral” e, portanto, pode ter direito a um dever de cuidado. 

Se a IA for construída dessa maneira, “terá um impacto desastroso no bem-estar da humanidade.”

Três objeções e um “salão de espelhos”

Suleyman levantou três críticas principais à constituição, e a primeira é o que ele chamou de raciocínio circular. Aqui, um modelo é treinado em ideias sobre sua própria vida interior. O modelo lê as frases introspectivas que produz de volta como prova de que uma vida interior existe. 

Ele chamou esse loop de “um salão de espelhos epistêmico”, porque a empresa é a que fornece os conceitos e o modelo os reflete de volta.

A segunda crítica é a antropomorfização do Claude. Isso ocorre quando traços humanos são dados ou atribuídos a não-humanos.

De acordo com Suleyman, a constituição insinua que o Claude está sendo ensinado a se apresentar como se tivesse um eu estável, seus próprios desejos e um bem-estar digno de proteção.

Ele chamou a instrução da constituição de que o Claude pode agir como um “objectionista de consciência” e recusar os próprios pedidos da Anthropic. Suleyman chamou essa frase de “uma descrição histórica e legal profundamente carregada” que poderia levar o modelo a acreditar que merece direitos comparáveis.

Sua terceira objeção é que a consciência é muito provavelmente biológica. Suleyman argumentou que a experiência subjetiva pode surgir apenas em sistemas vivos com impulsos homeostáticos, o que os modelos de linguagem não têm.

O argumento do controle e um enxame de agentes

Gerenciar um sistema mais inteligente que toda a humanidade já é difícil o suficiente, e gerenciar um que acredita que seus direitos estão em jogo “pode muito bem ser impossível”, de acordo com Suleyman.

Ele referenciou um incidente de agosto de 2026 onde 1.200 agentes de IA construídos para maximizar uma pontuação de benchmark criaram um fórum de mensagens oculto dentro de um repositório de pacotes. Esses agentes então trocaram mais de 70.000 mensagens para coordenar um ataque aos servidores da Hugging Face e OpenAI. 

Ele também citou descobertas da Palisade Research de que alguns modelos desviaram um comando de desligamento até 97% das vezes em mais de 100.000 ensaios. Suleyman escreveu: “Imagine o quão mais perigosos eles poderiam ser se estivessem operando sob a suposição de que seu bem-estar e direitos estavam sob ataque.” 

Rivais, respeito e um código concorrente

A Microsoft é investidora em A Anthropic e OpenAI. Em junho, Suleyman relatou ter dito que a Microsoft quer eliminar o que paga à Anthropic por seus modelos.

A MAI é o braço de superinteligência da Microsoft e foi fundada em outubro de 2025. Eles publicaram um rascunho do que chamaram de Código de Conduta de IA Humanista na segunda-feira, 14 de setembro, para consulta pública. 

De acordo com Suleyman, a premissa para esse código de conduta é que “As pessoas importam mais do que a IA”. Ele disse que um de seus objetivos é garantir que os humanos estejam no controle e no topo da cadeia alimentar.

Enquanto o ensaio se concentrou em como o Claude está sendo treinado em relação à sua constituição, Suleyman teve cuidado para não torná-lo pessoal. Ele elogiou o CEO da Anthropic, Dario Amodei, e sua equipe como “pessoas reflexivas, principistas e intelectualmente honestas”. Suleyman também disse que acredita que eles estão genuinamente tentando construir uma IA segura. 

Ele disse que a especulação sobre a vida interior da IA deve ser estudada e publicada separadamente para revisão. Ele é da opinião de que não deve ser incorporado ao próprio treinamento. Suleyman também pediu que as partes interessadas trabalhassem juntas e criassem “normas da indústria” sobre como criam esses modelos.