A Inteligência Artificial Apresenta Novos Riscos no Desenvolvimento de Armas Biológicas

O mundo testemunhou avanços sem precedentes em química, biologia sintética e inteligência artificial (IA) nos últimos anos. Essas inovações, quando combinadas, inauguraram uma nova era de possibilidades científicas. No entanto, com grandes poderes vêm grandes responsabilidades, e uma preocupação emergente é o potencial uso indevido dessa convergência de conhecimento. A síntese de vírus, antes uma tarefa reservada para especialistas altamente qualificados, está se tornando mais acessível, levantando preocupações sobre a criação de patógenos mortais.

Um ponto de virada notável

Um ponto de virada significativo nesse cenário ocorreu quando uma pequena equipe de pesquisadores embarcou na síntese de novo do horsepox, um vírus orthopox. Embora menos patogênico que a varíola, esse vírus tornou-se um símbolo de preocupação devido à facilidade com que foi criado. A equipe obteve fragmentos de DNA de um surto de horsepox na Mongólia em 1976 e construiu os fragmentos de DNA com a ajuda de uma empresa de síntese de DNA.

 Este empreendimento marcou um “Rubicon no campo da biosegurança”, demonstrando que um vírus orthopox poderia ser criado do zero usando materiais e informações comercialmente disponíveis por aproximadamente $100.000.

O papel da inteligência artificial

À medida que a tecnologia continua a evoluir, o papel da IA nesse cenário não pode ser ignorado. Modelos de linguagem de grande escala (LLMs), como aqueles que se tornaram publicamente acessíveis desde o final de 2022, têm o potencial de auxiliar na construção de armas químicas ou biológicas. Embora as discussões sobre IA tenham se centrado frequentemente no desenvolvimento de sistemas superinteligentes, uma preocupação mais imediata é a contribuição dos LLMs atuais para a redução das “barreiras de informação” na criação de patógenos mortais.

 Quando armados com o conhecimento certo em biologia sintética, esses modelos poderiam ajudar indivíduos com treinamento mínimo a superar os desafios de produzir um patógeno viável com potencial pandêmico.

A acessibilidade dos LLMs

Um aspecto marcante dessa preocupação é a acessibilidade dos LLMs. Criar patógenos sintéticos está se tornando cada vez mais viável com apenas um sintetizador de genoma inteiro de mesa, acesso a literatura específica e algum treinamento científico. O custo desse empreendimento caiu dramaticamente, com estimativas sugerindo que logo exigiria pouco mais de $20.000. Essa acessibilidade levanta questões sobre como regular e monitorar o uso da tecnologia de IA neste contexto.

Abordando os riscos

É crucial notar que desenvolver um patógeno sintético não garante o início de uma pandemia. No entanto, os riscos potenciais são inegáveis. Para gerenciar esses riscos, os especialistas sugerem olhar para instituições estabelecidas que já desempenharam papéis fundamentais no controle de armas biológicas e químicas.

O papel do Grupo da Austrália

Uma dessas instituições é o Grupo da Austrália (AG), fundado em 1984 durante a guerra Irã-Iraque. Inicialmente focado no controle de produtos químicos precursores de armas não convencionais, o AG evoluiu para harmonizar a regulamentação de componentes “químico-biológicos”. Diante da nova era da IA e dos progressos na biologia sintética, o AG poderia servir como uma plataforma para cooperação internacional para abordar essas ameaças emergentes. Ao desenvolver listas de controle comuns abrangentes e coordenar esforços para prevenir o uso indevido da tecnologia, o AG pode desempenhar um papel vital no combate aos perigos potenciais impostos pela convergência de IA e biotecnologia.

Conclusão

À medida que a humanidade enfrenta os desafios contínuos de uma pandemia global e outras crises, o surgimento de novas ameaças em armas biológicas é um lembrete da necessidade de medidas proativas. O rápido avanço da tecnologia, combinado com a acessibilidade da IA e da biologia sintética, requer uma resposta internacional coordenada. O Grupo da Austrália destaca-se como um farol de esperança, oferecendo uma plataforma para navegar por esses desafios e proteger a segurança global.

Na ausência de medidas proativas, os riscos de uso indevido da IA e da biotecnologia pairam grandes, e o mundo deve se unir para prevenir as consequências potencialmente catastróficas que poderiam resultar da criação e implantação de patógenos sintéticos. A hora de agir é antes que o mundo enfrente uma nova e imprevista ameaça à estabilidade e segurança globais.