A Meta abre o Glimmer como código aberto enquanto Zuckerberg chama a centralização de maior risco da IA

A Meta (NASDAQ: META) lançou um modelo de IA de pesos abertos chamado Muse Glimmer, juntamente com um manifesto do CEO Mark Zuckerberg, que afirmou que o verdadeiro perigo da IA avançada é um único governo ou empresa controlar a tecnologia, e não máquinas rebeldes.

O Muse Glimmer é um modelo denso com 30 bilhões de parâmetros que cabe em um laptop ou em uma única GPU de consumo, e a Meta o anuncia como “um dos modelos de melhor desempenho do seu tamanho.”

Qualquer pessoa pode baixar o modelo, personalizá-lo e executá-lo em seu próprio hardware, pois os pesos são abertos.

A Meta supostamente construiu o Muse Glimmer por meio de destilação, treinando o modelo menor nas saídas do seu sistema maior Muse Spark para que a versão compacta herde a capacidade do “professor” maior.

De acordo com a Meta, os pesos de uma versão do Muse Spark 1.2 serão lançados nas próximas semanas. Ambos os modelos são considerados os maiores modelos de código aberto americanos até o momento.

A Meta havia inicialmente pausado o lançamento de modelos de pesos abertos, o que Zuckerberg atribuiu a uma revisão de estratégia. Agora eles estão de volta ao trabalho, já que a Meta Superintelligence Labs está em operação.

O que Zuckerberg disse sobre a centralização da IA em seu ensaio?

Zuckerberg, em um ensaio de 6,500 palavras titulado “O Futuro é Para Todos: O Caminho Para um Futuro Positivo da IA”, rebateu o tom catastrófico de grande parte do discurso sobre IA.

Em uma entrevista, ele afirmou: “Pessoalmente, estou mais preocupado com a centralização do que com qualquer um dos riscos específicos dos quais outros estão falando.”

De acordo com Zuckerberg, concentrar superinteligência nas mãos de poucos “naturalmente levará a resultados menos favoráveis para todos os outros.”

Ele acrescentou que “não existe tal coisa como uma superinteligência benevolente singular.”

Zuckerberg também propôs uma alternativa baseada em três ideias. Elas são: o empoderamento individual como fonte de prosperidade, a invenção em vez da automação como principal propósito da IA, e o equilíbrio de poder como base para a segurança.

Sobre geopolítica, Zuckerberg escreveu que as regras dos EUA que atrasam o lançamento de modelos americanos, mesmo que por um mês, poderiam custar ao país sua liderança enquanto modelos estrangeiros avançam.

Uma junta independente e um fundo comunitário de $1 bilhões

Para conciliar lançamentos abertos com preocupações de segurança, a Meta está adicionando governança. Zuckerberg disse que uma junta independente terá a autoridade para aprovar os critérios de segurança que regem os lançamentos de modelos e para revisar se um determinado lançamento os atende. Ele afirmou que a junta ajudará a garantir que os lançamentos abertos “atendam a rigorosos padrões de segurança.”

Zuckerberg também anunciou um “Fundo O Futuro é Para Todos” de US$ 1 bilhão, destinado às comunidades dos EUA que abrigam data centers da Meta. Diz-se que ele direcionará recursos para professores, bombeiros e infraestrutura local de energia e água.

O fundo é visto como um esforço para atenuar o crescente backlash local contra a construção de data centers nos EUA.