인공지능, 생물학적 무기 개발에서 새로운 위험 제기

세계는 최근 몇 년 동안 화학, 합성 생물학 및 인공지능(AI) 분야에서 전례 없는 진전을 목격했습니다. 이러한 혁신이 결합되면 과학적 가능성의 새로운 시대가 열립니다. 그러나 큰 힘에는 큰 책임이 따르며, 하나의 새로운 우려는 이러한 지식의 융합이 남용될 가능성입니다. 한때 매우 전문화된 전문가들에게만 맡겨졌던 바이러스 합성이 점점 더 접근 가능해지면서 치명적인 병원체를 생성할 수 있다는 우려가 커지고 있습니다.

주요 전환점

이 분야에서 중요한 전환점은 소규모 연구팀이 말두창(orthopox virus)의 신규 합성(de novo synthesis)에 착수했을 때 발생했습니다. 천연두보다 병원성이 낮지만, 이 바이러스는 쉽게 생성될 수 있다는 점 때문에 우려의 상징이 되었습니다. 연구팀은 1976년 몽골에서 발생한 말두창 발병 사례에서 DNA 단편을 확보하고 DNA 합성 회사의 도움을 받아 DNA 단편을 구성했습니다.

 이 시도는 약 10만 달러의 비용으로 상업적으로 이용 가능한 재료와 정보를 사용하여 신규 orthopox 바이러스를 생성할 수 있음을 보여주며, '바이오시큐리티 분야의 루비콘 강 도하'로 marking되었습니다.

인공지능의 역할

기술이 계속 발전함에 따라 이 환경에서 AI의 역할은 무시할 수 없습니다. 2022년 후반부터 대중적으로 접근 가능해진 대규모 언어 모델(LLM)과 같은 모델은 화학 또는 생물학적 무기를 구축하는 데 도움을 줄 잠재력을 가지고 있습니다. AI에 대한 논의는 종종 초지능 시스템의 개발에 집중되어 왔지만, 더 시급한 우려는 현재 LLM들이 치명적인 병원체 생성에서 '정보적 장벽'을 줄이는 데 기여하는 것입니다.

 합성 생물학에 대한 올바른 지식을 갖춘 이러한 모델은 최소한의 훈련을 받은 개인이 팬데믹 잠재력을 가진 생존 가능한 병원체를 생산하는 과제를 극복하는 데 도움을 줄 수 있습니다.

LLM의 접근성

이 우려의 놀라운 측면 중 하나는 LLM의 접근성입니다. 데스크톱 전체 게놈 합성기, 특정 문헌에 대한 접근, 그리고 일부 과학적 훈련만으로도 합성 병원체 생성이 점점 더 실현 가능해지고 있습니다. 이러한 시도의 비용은 급격히 하락했으며, 추정에 따르면 곧 2만 달러 이상을 필요로 하지 않을 수도 있습니다. 이러한 접근성은 이 맥락에서 AI 기술의 사용에 어떻게 규제 및 모니터링을 적용할 것인지에 대한 질문을 제기합니다.

위험 대응

합성 병원체를 개발한다고 해서 반드시 팬데믹이 시작되는 것은 아니라는 점을 유의해야 합니다. 그러나 잠재적 위험은 부인할 수 없습니다. 이러한 위험을 관리하기 위해 전문가들은 이미 생물학적 및 화학적 무기 통제에서 중추적인 역할을 수행해 온 기존 기관들을 참조할 것을 제안합니다.

호주 그룹의 역할

이러한 기관 중 하나는 1984년 이란-이라크 전쟁 기간에 설립된 호주 그룹(Australia Group, AG)입니다. 처음에는 비전통적 무기의 전구 물질을 통제하는 데 중점을 두었던 AG는 '화학-생물학' 구성 요소의 규제를 조화시키기 위해 진화했습니다. AI의 새로운 시대와 합성 생물학의 진전에 직면하여, AG는 이러한 새로운 위협에 대응하기 위한 국제 협력을 위한 플랫폼 역할을 할 수 있습니다. 포괄적인 공통 통제 목록을 개발하고 기술의 남용을 방지하기 위한 노력을 조정함으로써 AG는 AI와 생명공학의 융합이 초래할 잠재적 위험에 대항하는 데 중요한 역할을 할 수 있습니다.

결론

인류가 글로벌 팬데믹 및 기타 위기의 지속적인 도전에 직면하는 가운데, 생물학적 무기에서의 새로운 위협의 출현은 예방적 조치의 필요성을 일깨워줍니다. 기술의 급속한 발전과 AI 및 합성 생물학의 접근성은 국제적인 공조 대응을 요구합니다. 호주 그룹은 이러한 도전을 헤쳐 나가고 글로벌 보안을 보호하기 위한 플랫폼을 제공함으로써 희망의 등대 역할을 합니다.

예방적 조치가 취해지지 않을 경우, AI와 생명공학의 남용 위험이 크게 looming하며, 세계는 합성 병원체를 생성하고 배포함으로써 초래될 수 있는 잠재적으로 파국적인 결과를 방지하기 위해 단결해야 합니다. 행동할 시기는 세계가 글로벌 안정과 보안에 대한 새롭고 예측 불가능한 위협에 직면하기 전입니다.