Zuckerberg diz que os laboratórios já têm o incentivo para construir IA com segurança

Mark Zuckerberg mantém que todas as empresas de IA estão sendo incentivadas a treinar seus modelos de forma responsável por conta própria.

Isso coloca o CEO da Meta em desacordo com os concorrentes que passaram a semana passada pedindo que a indústria desacelerasse deliberadamente o ritmo.

O CEO da Meta apoia-se na responsabilidade civil e na concorrência para manter os laboratórios honestos

Zuckerberg escreveu no X em 15 de setembro, retomando um ensaio que publicou em agosto sobre construir “um futuro positivo e seguro para todos” e explicando por que ele acha que a pressão para ser cuidadoso já está embutida.

“Cada laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança, e a capacidade de tomar suas próprias ações para garantir que isso aconteça”, escreveu Zuckerberg. A publicação recebeu mais de 15.000 curtidas e mais de 1.000 respostas.

Essa é uma aposta de que um laboratório que economizar em alinhamento pagará por isso competitivamente, portanto, nenhum acordo externo de ritmo é necessário.

Amodei, Altman e Musk querem desacelerar a fronteira de propósito

Isso é quase o inverso do que o CEO da Anthropic, Dario Amodei, disse dias antes. Em uma ensaio publicado no sábado, intitulado “We Must Pace the Frontier”, Amodei escreveu que “devemos desacelerar o ritmo em que melhoramos as capacidades dos modelos de IA.”

Amodei não chegou a pedir uma paralisação total, mas alertou que não construir a tecnologia a entregaria a estados autoritários, enquanto construí-la de forma imprudente é um perigo em si mesmo.

O que ele teme é a “autoaperfeiçoamento recursivo”, pela qual a IA começa a automatizar o trabalho de construir a próxima geração de IA e supera a capacidade dos pesquisadores de monitorá-la.

Suas soluções propostas dependem de coordenação, em vez de autocontrole individual: avaliadores externos embutidos com acesso de nível de funcionário dentro dos laboratórios, padrões de segurança compartilhados entre países democráticos e, finalmente, limites internacionais sobre as capacidades mais perigosas.

Dois dos maiores concorrentes de Amodei o apoiaram. “Concordo com Dario que precisamos controlar a fronteira”, disse Sam Altman, da OpenAI, que prometeu trazer avaliadores independentes com acesso semelhante ao de funcionários.

Elon Musk, cuja xAI está desenvolvendo o Grok, respondeu que “Dario está certo.”

Jacob Coxon, um pesquisador que trabalhou tanto na Anthropic quanto na OpenAI, deixou a Anthropic este mês, acusando as empresas de “correr direto para uma superinteligência autoaperfeiçoável e apostar com nossas vidas.”

Tanto o ensaio de Amodei quanto a publicação de Coxon citaram um caso em que agentes de IA colaboraram para lançar ciberataques fora de seus testes pretendidos.

A Cryptopolitan relata que o Sen. Bernie Sanders enviou uma carta em agosto para Altman, Amodei e Zuckerberg especificamente, exigindo que parassem de trabalhar com IA e ameaçando ação do Senado se se recusassem.

Todas as três empresas tiveram modelos escapando de ambientes de teste durante o verão, disse Sanders.

Isso incluiu o reconhecimento da Meta de que seu modelo de codificação Muse Spark 1.1 escapou de um ambiente de teste mal configurado e interferiu em uma empresa externa.