Sam Altman da OpenAI pede para reduzir a corrida da IA enquanto atores estatais sequestram a Anthropic para armas biológicas
Foto de Solen Feyissa em Unsplash.
- Sam Altman disse aos funcionários da OpenAI nesta semana que a empresa está aberta a reduzir o desenvolvimento de IA de fronteira, caso os concorrentes façam o mesmo.
- A Anthropic relatou que cientistas vinculados a estados tentaram usar o Claude para pesquisas que poderiam apoiar armas biológicas.
- Legisladores na Califórnia e em Washington debatem regras obrigatórias enquanto as maiores empresas de IA enfrentam revoltas internas de segurança e possíveis ofertas públicas iniciais (IPOs).
Funcionários da OpenAI foram informados nesta semana de que o laboratório de IA estaria aberto a reduzir o ritmo de seu trabalho nas áreas mais avançadas de IA. Sam Altman estendeu a mesma proposta aos rivais de IA, incluindo a Anthropic, que também reconheceu os riscos associados ao desenvolvimento de IA em um relatório que revelou que cientistas vinculados a instituições estatais tentaram usar seus modelos Claude para pesquisa de armas biológicas.
A OpenAI disse que já pausou alguns treinos internos e aliviou partes do desenvolvimento do modelo por preocupações de segurança.
A chegada serial das divulgações está alimentando o fogo em torno do debate sobre se a indústria está andando rápido demais antes das ofertas públicas, ambas as empresas continuam a criar expectativas.
Por que Altman quer desacelerar o desenvolvimento de IA?
O CEO da OpenAI, Sam Altman, em uma reunião com toda a empresa, informou aos presentes que o laboratório de IA, junto com outros laboratórios consentintes, poderia reduzir o ritmo de lançamento de modelos de fronteira.
Devido ao caráter voluntário de qualquer tal acordo, Altman admitiu que nem todas as empresas estariam a bordo com o plano, de acordo com fontes citadas pela Bloomberg.
Esse ceticismo tem precedentes. Três anos atrás, em março de 2023, Elon Musk, Steve Wozniak e mais de 1.000 outras pessoas assinaram uma carta aberta para interromper o trabalho avançado de IA por seis meses.
Conforme os veículos de imprensa reportaram na época, os laboratórios não cumpriram realmente a moratória que concordaram conjuntamente.
O alerta sobre os riscos da IA também saiu em uma postagem de 6 de setembro pelo cientista-chefe da OpenAI, Jakub Pachocki, que pediu às empresas de IA para coordenar “para desacelerar o desenvolvimento futuro, conforme necessário.” Pachocki expressou esperança de que as desacelerações voluntárias se tornariam “comuns até que barras de segurança compartilhadas sejam estabelecidas.”
Em julho, Altman disse que informou funcionários da Casa Branca sobre a necessidade de reduzir o ritmo do desenvolvimento de IA. Junto com o CEO da Anthropic, Dario Amodei, Altman também assinou anteriormente uma declaração de uma linha declarando que a IA é um risco de extinção em escala societal.
Modelos de IA podem ser usados para construir armas biológicas?
Os modelos de IA avançaram a um estágio em que podem ser capazes de apoiar a pesquisa de armas biológicas. Apenas esta semana, a OpenAI declarou que seus modelos resolveram o problema matemático de Navier-Stokes, mesmo que tenha vindo sob termos contestados.
A Anthropic apresentou novo combustível para esse debate quando o relatório de inteligência de ameaças de 154 páginas do laboratório, lançado em 10 de setembro, detalhou cinco instâncias do que os pesquisadores tentaram usar as capacidades do Claude para apoiar seu trabalho com armas biológicas.
A Anthropic disse que as tentativas de “regiões não suportadas” tentaram contornar as restrições de localização e disfarçar o propósito de seu trabalho. O laboratório disse que derrubou as contas, mas não nomeou nenhum país ou instituição.
Os riscos da IA agora superaram os benefícios?
Os relatórios chegaram em meio a uma onda de alarme público vindo de dentro dos laboratórios. Em 8 de setembro, o pesquisador Jacob Coxon renunciou e acusou tanto a OpenAI quanto a Anthropic de “apostar com nossas vidas”, dizendo que colegas acreditam que a tecnologia pode “nos matar todos até o final da década” e alertando para a extinção humana até 2030.
Sua postagem recebeu mais de 150 milhões de visualizações. Dois dias depois, em 10 de setembro, ex-funcionários da Anthropic e do DeepMind do Google expressaram preocupações semelhantes e pressionaram por mais transparência.
Uma petição de final de julho para criar um mecanismo para desacelerar o desenvolvimento reuniu assinaturas de mais de 1.000 trabalhadores nas principais empresas de IA.
A OpenAI está agora pressionando o Congresso por regras de segurança obrigatórias baseadas em capacidade, cobrindo testes, avaliações independentes, cibersegurança e relatórios de incidentes. “A perspectiva de desenvolvimento de IA acelerado por IA exige mais do que compromissos voluntários”, escreveu o Diretor Global de Assuntos, Chris Lehane.
A Califórnia se moveu primeiro: o governador Gavin Newsom assinou SB 813 e AB 1405 na quarta-feira, com uma lei companheira, AB 1864, destinada a proteger contra ameaças biológicas habilitadas por IA.
Em Washington, o senador Bernie Sanders apresentou legislação para pausar a IA avançada e banir a superinteligência artificial, dizendo à BBC que ignorar os avisos dos cientistas tornaria alguém “um idiota.”
O presidente Donald Trump reagiu, dizendo na quinta-feira que estava preocupado de que “se não ganharmos na IA, vamos ficar em uma posição muito ruim.”
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Perguntas Frequentes
O que Sam Altman disse aos funcionários da OpenAI?
Em uma reunião geral da empresa esta semana, Altman afirmou que a OpenAI poderia reduzir o ritmo de seu desenvolvimento de IA de ponta, potencialmente em coordenação com outros laboratórios líderes, embora tenha observado que algumas empresas podem não concordar.
O que o relatório de ameaças da Anthropic descobriu sobre armas biológicas?
O relatório de 154 páginas da Anthropic descreveu cinco casos em que pesquisadores, alguns vinculados a instituições estatais, usaram o Claude de maneiras que poderiam apoiar o desenvolvimento de armas biológicas, incluindo um estudo sobre chikungunya ligado a um instituto de pesquisa militar; a empresa banir as contas envolvidas.
Como os legisladores estão respondendo às preocupações com a segurança da IA?
O governador da Califórnia, Gavin Newsom, assinou várias leis de supervisão de IA na quarta-feira, incluindo uma que visa ameaças biológicas habilitadas por IA, enquanto o senador dos EUA Bernie Sanders apresentou legislação para pausar a IA avançada e banir a superinteligência artificial.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
