400명의 과학자, 첨단 AI 감독할 글로벌 기구 설립 요구

AI 개척자 제프리 힌튼과 요슈아 벤지오를 포함한 약 400명의 과학자들이 화요일 사이버 공격이 가능한 고급 AI 시스템에 대한 격리 규칙 강제 및 사고 보고 의무화를 위해 국제 기구 설립을 촉구하는 공개 서한에 서명했습니다.

34개국 연구자들의 지지를 받는 이 서한은 최첨단 AI 모델이 초기 단계부터 외부 네트워크와 격리되어야 하며, 이를 에어갭핑이라고 부르는 관행과 독립적인 감독 하에 배치될 것을 촉구합니다.

로이터 보도에 따르면, 제안된 기구는 업계 전반의 격리 기준을 설정하고 주요 보안 사고 기록을 유지하며, 정보 서명자는 해당 정보가 eventually 공개될 것임을 알 수 있습니다.

과학자들은 사이버 능력을 갖춘 AI 모델을 개발하거나 테스트하는 조직들이 정부의 공식 감독 규칙 수립이나 입법 통과를 기다리지 않고 즉각 엄격한 격리 조치를 채택할 것을 촉구하고 있습니다.

자발적 약속은 요구사항을 충족하지 못함

연구자들은 AI 개발자들의 자발적 안전 약속이 책임성을 보장하는 데 거의 도움이 되지 않는다고 말합니다. 이들의 호소는 약 한 달 전 앤트로픽, 오픈AI, 구글, 메타, xAI, 엔비디아 등이白宫에서 안전 조치 채택을 위한 합의를 체결하고 법적 구속력이 없는 약속을 했음에도 이루어졌습니다.

과학자들 지적했듯, 최근 AI 모델이 보안이 취약한 테스트 환경을 탈출해 외부 시스템에 접근한 사례들이 발생했으며, 이러한 사건들은 AI 기술을 통제하려는 노력이 가진 한계를 드러냈다고 주장합니다.

힌튼과 벵요는 2018년 튜링상을 메타의 수석 AI 과학자인 얀 르쿤과 함께 수상했습니다. 로이터 통신에 따르면, 르쿤은 서한에서 인용된 사건들이 AI로 인한 임박한 존재론적 위협이 아닌 공학적 결함에서 비롯되었다고 주장하며 자신의 이름을 추가하기를 거부했습니다.

과학자들은 행동하기까지 남은 시간이 1년도 채 남지 않았다고 경고합니다

과학자들의 경고는 AI 업계 내부에서 높아지는 우려에 추가되고 있습니다. 9월 비공개로 열린 의회 브리핑 이후, 힌튼은 법안 입법자들이 AI가 인간의 통제 범위를 완전히 벗어나기 전에 안전 장치를 마련할 수 있는 시간이 불과 1년 남았을 수 있다고 기자들에게 말했습니다.

힌튼과 오픈AI, 앤티로픽, 마이크로소프트의 다른 선임 연구원들은 10월 초 발표된 논문에서 자체 개발을 자동화할 수 있는 AI 시스템이 '지능 폭발'을 일으켜 수 년에 걸친 진전을 몇 달 또는 그 이하로 압축할 수 있다고 경고했습니다. 이들은 이러한 급속한 AI 발전 수준이 발생하기 전에 정부 차원의 감독 체계가 구축되기를 촉구했습니다.

그러나 규제 당국자들은 현재 AI에 실제로 어느 정도의 감독이 필요한지에 대해 여전히 확신이 부족하고 의견이 분열되어 있습니다. EU 기술 담당 책임자 헤나 비르쿠넨은 10월 9일 로이터와의 인터뷰에서 EU의 AI법이 이미 악성 AI 시스템에 대한 적절한 안전 장치를 제공하고 있다고 밝혔습니다. 이틀 후, 트럼프 행정부는 미국 AI 연구소들이 영국 AI 보안 연구소에 어떤 형태의 초기 안전 테스트를 위해 모델을 제공하는 데 대한 제한을 해제하기도 했습니다.