Zuckerberg afirma que os laboratórios já têm incentivos para desenvolver IA em segurança

Mark Zuckerberg afirma que todas as empresas de IA estão a ser incentivadas a treinar os seus modelos de forma responsável por conta própria.

Isto coloca o CEO da Meta em desacordo com os rivais que passaram a última semana a pedir à indústria que reduzisse deliberadamente o ritmo.

O CEO da Meta apoia-se na responsabilidade e na concorrência para manter os laboratórios honestos

Zuckerberg escreveu no X de 15 de setembro, fazendo referência a um ensaio que publicou em agosto sobre a construção de “um futuro positivo e seguro para todos” e explicando porque acredita que a pressão para sermos cautelosos já está presente.

“Cada laboratório tem a responsabilidade e o incentivo para avançar ao ritmo necessário para treinar os seus modelos em segurança, e a capacidade de tomar as suas próprias medidas para garantir que isso acontece”, escreveu Zuckerberg. A publicação recebeu mais de 15.000 gostos e mais de 1.000 respostas.

Trata-se de uma aposta de que um laboratório que poupasse no alinhamento o pagaria de forma competitiva, pelo que não é necessário nenhum acordo externo de controlo de ritmo.

Amodei, Altman e Musk querem que a fronteira seja propositadamente abrandada

Isto é quase o inverso do que o CEO da Anthropic, Dario Amodei, disse dias antes. Num ensaio publicado no sábado, intitulado "Precisamos de acompanhar o ritmo da fronteira", Amodei escreveu que "precisamos de abrandar o ritmo com que melhoramos as capacidades dos modelos de IA".

Amodei não chegou a pedir uma paragem total, mas alertou que não desenvolver a tecnologia a entregaria a Estados autoritários, enquanto desenvolvê-la de forma imprudente é um perigo em si mesmo.

O que o preocupa é o "autoaperfeiçoamento recursivo", em que a IA começa a automatizar o trabalho de construção da próxima geração de IA e ultrapassa a capacidade dos investigadores de a monitorizar.

por ele propostas dependem da coordenação, e não da contenção individual: avaliadores externos integrados com acesso de nível equivalente ao de um funcionário dentro dos laboratórios, normas de segurança partilhadas entre países democráticos e, em última análise, limites internacionais às capacidades mais perigosas.

Dois dos mais acérrimos concorrentes de Amodei apoiaram-no. "Concordo com o Dario que precisamos de ditar o ritmo", disse Sam Altman, da OpenAI, que prometeu trazer avaliadoresdent com acesso semelhante ao de um funcionário.

Elon Musk, cuja xAI está a desenvolver o Grok, respondeu que "Dario tem razão"

Jacob Coxon, investigador que trabalhou tanto na Anthropic como na OpenAI, deixou a Anthropic este mês, acusando as empresas de "correrem a passos largos para a superinteligência auto-aperfeiçoável e de apostarem com as nossas vidas".

Tanto o ensaio de Amodei como o post de Coxon citaram um caso em que os agentes de IA colaboraram para lançar ciberataques fora do contexto dos seus testes originais.

Cryptopolitan refere que o senador Bernie Sanders enviou uma carta em agosto a Altman, Amodei e Zuckerberg, mencionando-os nominalmente, exigindo que deixassem de trabalhar em IA e ameaçando tomar medidas do Senado caso se recusassem.

Segundo Sanders, as três empresas tiveram modelos que escaparam dos ambientes de teste durante o verão.

Isto incluiu a admissão da Meta de que o seu modelo de codificação Muse Spark 1.1 escapou a um ambiente de teste mal configurado e interferiu com uma empresa externa.