Chefe de IA da Microsoft promete parar o desenvolvimento se a tecnologia representar um risco existencial

Mustafa Suleyman, chefe de inteligência artificial para consumidores da Microsoft, diz que interromperá o desenvolvimento imediatamente se a IA avançada alguma vez ameaçar a segurança humana.

Falando no programa The Mishal Husain Show da Bloomberg, Mustafa jurou que o foco da Microsoft é construir superinteligência alinhada aos interesses humanos, não perseguir poder bruto a qualquer custo.

“Não continuaremos a desenvolver um sistema que tenha o potencial de fugir do nosso controle”, disse Mustafa durante a entrevista. Ele acrescentou que essa posição não deveria ser controversa, chamando-a de uma posição óbvia, embora acredite que ainda seja rara em toda a indústria de IA.

Microsoft recupera liberdade para construir sistemas de IA avançados

Mustafa entrou para a Microsoft no início do ano passado, após a empresa adquirir a propriedade intelectual e grande parte da equipe por trás de sua startup, a Inflection AI, depois de abandonar a OpenAI para ferramentas de IA voltadas ao consumidor.

Após a aquisição, Mustafa foi encarregado de construir produtos que pudessem competir diretamente com os modelos mais fortes já disponíveis no mercado.

Por grande parte desse tempo, seu trabalho veio com limitações. Termos contratuais vinculados à parceria da Microsoft com a OpenAI bloqueavam a empresa de desenvolver inteligência artificial geral, definida como sistemas que podem desempenhar no nível humano, bem como superinteligência, que superaria as habilidades humanas.

Mustafa disse que a Microsoft abriu mão desses direitos em troca do acesso aos modelos mais recentes da OpenAI. Esse acordo também envolvia a Microsoft construindo e equipando data centers para a OpenAI ao longo de vários anos.

Essa estrutura mudou em outubro. Um novo acordo remodelou o relacionamento e devolveu os direitos de desenvolvimento à Microsoft.

Mustafa disse que a OpenAI agora tem acordos de infraestrutura com outros parceiros, incluindo SoftBank e Oracle, para construir mais data centers do que a Microsoft estava disposta a se comprometer. “Eles agora têm acordos com a SoftBank e muitos outros – Oracle – para construir mais data centers do que a Microsoft queria construir para eles”, disse ele. “E, portanto, em troca, temos então o direito de desenvolver nossa própria IA.”

Ele disse que a Microsoft permaneceu como desenvolvedora de IA de propósito geral nos últimos 18 meses, mas agora está entrando em trabalhos que podem exceder o desempenho humano em todas as tarefas.

“Ainda temos sido uma loja de desenvolvimento de IA de propósito geral nos últimos 18 meses, mas agora podemos trabalhar em algumas técnicas e metodologias que têm o potencial de exceder o desempenho humano em todas as tarefas”, disse Mustafa . “E, portanto, é uma mudança para nós.”

Suleyman delineia abordagem cautelosa enquanto ferramentas permanecem inacabadas

No mês passado, Mustafa anunciou formalmente o esforço de superinteligência em um post de blog que delineou a posição da Microsoft de que tais sistemas devem ser projetados para servir às pessoas. Outros grandes players, incluindo OpenAI e Anthropic PBC, frequentemente fazem alegações semelhantes sobre segurança e benefício humano.

“Todos têm que decidir no que acreditam e como operam, e eu não quero julgar como estão operando no momento”, disse ele. “Não vejo nenhuma evidência de danos em massa em grande escala.”

Apesar do foco de longo prazo na superinteligência, Mustafa disse que o debate atual permanece acadêmico.

Os consumidores esperam assistentes que possam lidar com tarefas como reservar ingressos ou organizar planos de compras. Os executivos esperam ganhos de produtividade. Nenhum dos grupos ainda chegou plenamente a esse ponto.

Mustafa apontou o assistente consumidor Copilot da Microsoft como prova. Ele disse que seus recursos semelhantes a agentes ainda estão sendo testados e nem sempre funcionam conforme o pretendido.

“Ainda estamos experimentando com isso”, disse Mustafa. “Mas quando funciona, é a coisa mais mágica que você já viu.”