Riscos de cibersegurança 'seriamente preocupantes' obscurecem os mais recentes modelos superfortes da Anthropic

De acordo com relatórios vinculados à Fortune, documentos internos vazados da Anthropic revelaram a existência de uma nova geração de modelos de IA codinome 'Claude Mythos'.

No entanto, a manchete mais importante é que os novos modelos estão, segundo relatos, já na fase de testes, apesar de serem considerados como representando 'riscos de cibersegurança sem precedentes'.

Vazamento de dados da Anthropic

A Fortune recentemente publicou um relatório contendo documentos vazados da empresa de inteligência artificial, Anthropic. Os documentos revelam detalhes sobre uma nova geração de modelos de IA que estão sendo desenvolvidos, supostamente nomeados 'Claude Mythos'.

O vazamento ocorreu devido a um erro humano na configuração do sistema de gerenciamento de conteúdo (CMS) da Anthropic. Roy Paz, da LayerX Security, e Alexandre Pauwels, da Universidade de Cambridge, explicaram que a Anthropic deixou quase 3.000 ativos não publicados, incluindo imagens, PDFs, arquivos de áudio e rascunhos de posts de blog, em um data lake publicamente acessível e pesquisável. 

O material era descobrível online antes que a Fortune notificasse a Anthropic, após o que a empresa removeu o acesso público.

Os documentos vistos pela Fortune afirmam que o Claude Mythos já está na fase de testes. Mais importante ainda, eles afirmam que a Anthropic acredita que este novo modelo 'representa riscos de cibersegurança sem precedentes'. 

A Anthropic declarou em um rascunho de blog que o sistema está 'atualmente muito à frente de qualquer outro modelo de IA em capacidades cibernéticas' e alertou que 'ele presagia uma onda futura de modelos que podem explorar vulnerabilidades de maneiras que superam em muito os esforços dos defensores'.

Devido aos riscos potenciais, a Anthropic planejou uma estratégia de lançamento cautelosa que priorizaria o acesso antecipado para organizações de defesa cibernética, dando aos defensores uma vantagem inicial no fortalecimento de bases de código contra explorações impulsionadas por IA. 

A Anthropic já havia relatado anteriormente que um grupo patrocinado pelo Estado chinês usou o Claude Code para infiltrar-se em cerca de 30 organizações, incluindo empresas de tecnologia, instituições financeiras e agências governamentais, portanto, a preocupação não é infundada. 

Os documentos vazados também revelaram detalhes de uma cúpula de CEOs por convite planejada em uma mansão do século XVIII no campo inglês, onde o CEO da Anthropic, Dario Amodei, estava prestes a sediar líderes empresariais europeus para discutir a adoção de IA e apresentar capacidades não lançadas do modelo Claude.

A batalha contínua de Elon Musk com a Anthropic 

Assim que a notícia saiu no X e ganhou atenção significativa, Elon Musk, proprietário do X e chefe da xAI, um concorrente direto da Anthropic, não perdeu a oportunidade de comentar sobre a notícia. 

Musk comentaram, 'Serioamente preocupante', e rapidamente ganhou dezenas de milhares de visualizações e milhares de curtidas. 

Musk tem um padrão de comentar sobre notícias negativas sobre concorrentes com os quais discorda. A Anthropic foi fundada por ex-funcionários da OpenAI, e Musk tem sido criticamente aberto em relação à abordagem da OpenAI e da indústria de IA em geral quanto à segurança e comercialização.

Enquanto isso, a própria empresa de IA de Musk, xAI, lançou recentemente uma nova camada de assinatura paga chamada 'SuperGrok Lite'. A assinatura custa US$ 10, e limites foram impostos aos usuários gratuitos do Grok para empurrá-los a comprar isso ou qualquer um dos outros três planos de assinatura que o Grok oferece. 

Eles incluem SuperGrok, que custa US$ 30 por mês, SuperGrok Heavy, que custa US$ 300 por mês, e Grok Business, que também custa US$ 30 por mês.