Sam Altman, da OpenAI, pede que se abrande a corrida à IA, enquanto os atores estatais sequestram o projeto Anthropic para armas biológicas
Foto de Solen Feyissa no Unsplash.
- Sam Altman disse aos funcionários da OpenAI esta semana que a empresa está disposta a abrandar o desenvolvimento de IA de ponta se os concorrentes fizerem o mesmo.
- A revista Anthropic noticiou que cientistas ligados ao Estado tentaram usar Claude para investigação que pudesse apoiar o desenvolvimento de armas biológicas.
- Os legisladores da Califórnia e de Washington debatem as regras obrigatórias, enquanto os maiores laboratórios de IA enfrentam revoltas internas por questões de segurança e possíveis ofertas públicas iniciais (IPOs).
Os responsáveis da OpenAI foram informados esta semana que o laboratório de IA estaria disposto a reduzir o ritmo do seu trabalho nas áreas mais avançadas da IA. Sam Altman estendeu a mesma proposta a concorrentes na área da IA, incluindo a Anthropic, que também reconheceu os riscos associados ao desenvolvimento da IA num relatório que revelou que cientistas ligados a instituições estatais tentaram utilizar os seus modelos Claude para a investigação de armas biológicas.
A OpenAI afirmou já ter pausado alguns treinos internos e flexibilizado partes do desenvolvimento de modelos devido a questões de segurança.
A divulgação sequencial está a alimentar o debate sobre se o setor está a precipitar-se demasiado em relação às ofertas públicas iniciais, como ambas as empresas continuam a insinuar.
Por que razão Altman quer abrandar o desenvolvimento da IA?
O diretor executivo da OpenAI, Sam Altman, informou os presentes, numa reunião com toda a empresa, que o laboratório de IA, juntamente com outros laboratórios que aceitaram participar, poderia abrandar o ritmo de lançamentos de modelos de topo.
Devido à natureza voluntária de qualquer acordo deste tipo, Altman admitiu que nem todas as empresas concordariam com o plano, de acordo com fontes citadas pela Bloomberg.
Este ceticismo não temdent. Há três anos, em março de 2023, Elon Musk, Steve Wozniak e mais de mil outras pessoas assinaram uma carta aberta para interromper o trabalho avançado em IA durante seis meses.
Conforme noticiado na altura, os laboratórios não cumpriram de facto a moratória que haviam acordado em conjunto.
O alerta sobre os riscos da IA foi também feito numa publicação de 6 de setembro do cientista-chefe da OpenAI, Jakub Pachocki, que pediu às empresas de IA que se coordenassem “para abrandar o desenvolvimento futuro, conforme necessário”. Pachocki expressou a esperança de que as desacelerações voluntárias “se tornem comuns até que sejam estabelecidas medidas de segurança partilhadas”
Em julho, Altman afirmou ter comunicado aos funcionários da Casa Branca a necessidade de limitar o desenvolvimento da IA. Juntamente com Dario Amodei, CEO da Anthropic, Altman também assinou anteriormente uma declaração de uma linha classificando a IA como um risco de extinção à escala social.
Será que os modelos de IA podem ser utilizados para construir armas biológicas?
Os modelos de IA avançaram a tal ponto que podem ser capazes de apoiar a investigação de armas biológicas. Esta semana, a OpenAI declarou que os seus modelos resolveram o problema matemático de Navier-Stokes, embora em termos controversos.
A Anthropic trouxe novos elementos a este debate quando o relatório de inteligência sobre ameaças do laboratório com 154 páginase divulgado a 10 de setembro, detalhou cinco exemplos de tentativas dos investigadores para utilizar as capacidades de Claude para apoiar o seu trabalho com armas biológicas.
A Anthropic afirmou que as tentativas provenientes de “regiões não apoiadas” visavam contornar as restrições geográficas e disfarçar o propósito do seu trabalho. O laboratório disse ter desativado as contas, mas não mencionou nenhum país ou instituição.
Será que os riscos da IA já superaram os benefícios?
Os relatórios surgiram no meio de uma onda de alarme público vinda de dentro dos laboratórios. A 8 de Setembro, o investigador Jacob Coxon demitiu-se e acusou tanto a OpenAI como a Anthropic de "jogarem com as nossas vidas", afirmando que os seus colegas acreditam que a tecnologia poderá "matar-nos a todos até ao final da década" e alertando para a extinção da humanidade até 2030.
A sua publicação atraiu mais de 150 milhões de visualizações. Dois dias depois, a 10 de setembro, ex-funcionários da Anthropic e da DeepMind, da Google, expressaram preocupações semelhantes e pressionaram por mais transparência.
Uma petição apresentada no final de julho para criar um mecanismo de abrandamento do desenvolvimento reuniu assinaturas de mais de 1.000 trabalhadores das principais empresas de IA.
A OpenAI está agora a pressionar o Congresso americano para a implementação de regras de segurança obrigatórias e baseadas em capacidades, que abrangem testes, avaliaçõesdent , cibersegurança e notificaçãodent . "A perspetiva de um desenvolvimento de IA acelerado pela IA exige mais do que compromissos voluntários", escreveu Chris Lehane, Diretor Global de Assuntos.
A Califórnia foi a primeira a agir: o governador Gavin Newsom sancionou na quarta-feira os projetos de lei SB 813 e AB 1405, juntamente com um projeto complementar, o AB 1864, que visa proteger contra ameaças biológicas facilitadas pela inteligência artificial.
Em Washington, o senador Bernie Sanders apresentou um projeto de lei para suspender o desenvolvimento de inteligência artificial avançada e proibir a superinteligência artificial, declarando à BBC que ignorar os alertas dos cientistas tornaria alguém "um idiota".
Odent Donald Trump reagiu, dizendo na quinta-feira que temia que "se não vencermos a IA, ficaremos numa situação muito má"
As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.
Perguntas frequentes
O que disse Sam Altman aos responsáveis da OpenAI?
Numa reunião geral da empresa esta semana, Altman disse que a OpenAI poderia abrandar o ritmo do seu desenvolvimento de IA de ponta, potencialmente em coordenação com outros laboratórios líderes, embora tenha observado que algumas empresas podem não concordar.
O que descobriu o relatório de ameaças da Anthropic sobre as armas biológicas?
O relatório de 154 páginas da Anthropic descreveu cinco casos em que investigadores, alguns ligados a instituições estatais, utilizaram Claude de formas que poderiam apoiar o desenvolvimento de armas biológicas, incluindo um estudo sobre chikungunya ligado a um instituto de investigação militar; a empresa proibiu as contas envolvidas.
Como estão os legisladores a responder às preocupações com a segurança da IA?
O governador da Califórnia, Gavin Newsom, sancionou na quarta-feira vários projetos de lei de supervisão da IA, incluindo um que visa as ameaças biológicas possibilitadas pela IA, enquanto o senador norte-americano Bernie Sanders apresentou legislação para suspender a IA avançada e proibir a superinteligência artificial.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. CryptopolitanO não se responsabiliza por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamostrona realização de pesquisas independentesdent /ou a consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação para blogs e cobertura de eventos no universo das criptomoedas. No Cryptopolitan, Hannah contribui para a página de notícias, reportando e analisando os últimos desenvolvimentos em DeFi, RWA, regulamentação de criptomoedas, IA e tecnologias de ponta. Ela se formou em Administração de Empresas pela Universidade Arcadia.
