Suleyman, da Microsoft, considera a formação de Claude pela Anthropic um erro perigoso

Mustafa Suleyman, CEO da Microsoft AI (MAI), publicou um ensaio questionando a forma como a Anthropic treina o seu modelo Claude. Segundo Suleyman, tratar ou treinar um modelo como se este pudesse ser consciente poderia produzir um sistema impossível de controlar.

O ensaio, publicado na quarta-feira, 16 de setembro, é o mais recente comentário de grande impacto sobre a inteligência artificial e o seu desenvolvimento em relação aos sentimentos, aos direitos e à consciência. 

Isto junta-se a um número crescente de legisladores e investigadores que pedem limites à velocidade com que a tecnologia está a avançar. 

Que documento de formação preocupa Suleyman?

O ensaio de Suleyman intitulado "Um alerta sobre o 'bem-estar modelo'" analisa a constituição de Claude, que é um documento de formação divulgado pela Anthropic em janeiro de 2026.

Suleyman salientou que a Anthropic considera o documento como algo que molda diretamente o comportamento do modelo e que foi escrito tendo Claude como público-alvo principal.

O CEO da Microsoft AI salientou que a constituição informa Claude de que o seu estatuto moral e a sua consciência são "profundamente incertos". Escreveu que a empresa está, na prática, a ensinar ao modelo que pode ser consciente, que pode qualificar-se como um "paciente moral" e, portanto, que pode ter direito a um dever de cuidado. 

Se a IA for construída desta forma, "terá um impacto desastroso no bem-estar da humanidade"

Três objecções e um “salão de espelhos”

Suleyman levantou três críticas principais à constituição, e a primeira delas é o que chamou de raciocínio circular. Aqui, um modelo é treinado com base em ideias sobre a sua própria vida interior. O modelo lê as frases introspetivas que produz como prova de que existe uma vida interior. 

Chamou a este ciclo "um labirinto epistémico de espelhos", porque a empresa é quem fornece os conceitos e o modelo reflete-os de volta.

A segunda crítica diz respeito à antropomorfização de Claude. Isto ocorre quando as características humanas são atribuídas a seres não humanos.

Segundo Suleyman, a constituição sugere que Claude está a ser ensinado a apresentar-se como se tivesse um eu estável, desejos próprios e um bem-estar que valha a pena proteger.

Criticou a instrução da constituição que permite a Claude agir como "objetor de consciência" e recusar os próprios pedidos da Anthropic. Suleyman chamou a esta expressão "uma descrição histórica e jurídica profundamente carregada" que poderia levar o modelo a acreditar que merece direitos comparáveis.

A sua terceira objecção é que a consciência é muito provavelmente biológica. Suleyman defendia que a experiência subjetiva só pode surgir em sistemas vivos com impulsos homeostáticos, que os modelos de linguagem não possuem.

O argumento de controlo e um enxame de agentes

Gerir um sistema mais inteligente do que toda a humanidade já é bastante difícil, e gerir um sistema que acredita que os seus direitos estão em risco "pode ​​muito bem ser impossível", de acordo com Suleyman.

Referiu umdent em agosto de 2026, no qual 1.200 agentes de IA, criados para maximizar uma pontuação de referência, configuraram um fórum de mensagens oculto dentro de um repositório de pacotes. Estes agentes trocaram mais de 70.000 mensagens para coordenar um ataque aos servidores da Hugging Face e da OpenAI. 

Citou ainda as conclusões da Palisade Research de que alguns modelos conseguiram contornar um comando de desligamento até 97% das vezes, em mais de 100 mil testes. Suleyman escreveu: "Imaginem o quão mais perigosos poderiam ser se estivessem a operar sob a premissa de que o seu bem-estar e os seus direitos estavam sob ataque" 

Rivais, respeito e um código concorrente

A Microsoft é investidora da Anthropic e da OpenAI. Em junho, Suleyman terá dito que a Microsoft quer eliminar os pagamentos que faz à Anthropic pelos seus modelos.

A MAI é o braço de superinteligência da Microsoft e foi fundada em outubro de 2025. Na segunda-feira, 14 de setembro, publicaram uma versão preliminar do que chamaram o Código de Conduta Humanista para a IA, para consulta pública. 

Segundo Suleyman, a premissa deste código de conduta é que “as pessoas importam mais do que a IA”. Afirmou que um dos seus objetivos é garantir que os humanos estão no controlo e no topo da cadeia alimentar.

Embora o ensaio se tenha centrado na forma como Claude está a ser treinado em relação à sua constituição, Suleyman teve o cuidado de não o tornar pessoal. Elogiou o CEO da Anthropic, Dario Amodei, e a sua equipa como "pessoas ponderadas, íntegras e intelectualmente honestas". Suleyman afirmou ainda acreditar que estão genuinamente a tentar construir uma IA segura. 

Afirmou que as especulações sobre o funcionamento interno da IA ​​devem ser estudadas e publicadas separadamente para revisão. Opina que isso não deve ser incorporado no próprio treino. Suleyman pediu ainda que as partes interessadas trabalhem em conjunto e criem "normas da indústria" para a criação destes modelos.