해사비스, 연말까지 미국이 글로벌 AI 규제 기구를 주도할 것을 촉구

구글 딥마인드의 공동 설립자이자 CEO 인 데미스 해사비스는 전 세계 가장 강력한 AI 모델을 심사하고 위험이 커질 경우 업계에 개발 속도를 늦추도록 명령할 권한을 가진 새로운 감시 기관을 미국 정부가 설립하기를 원합니다.

그는 7 월 14 일에 발표된 자신의 선언문에서 이 기관이 연말까지 운영되기를 바란다고 밝혔습니다.

해사비스는 AI 분야의 주요 목소리 중 한 명입니다. 그는 단백질 접힘 연구로 2024 년 노벨 화학상을 수상했으며 제미니를 개발한 연구소를 이끌고 있습니다.

에서 인터뷰에서, 업계가 AI 감독을 체계화하고 연구소 자체 자금으로 지원하며 기술 전문가로 구성되며 미국 정부에 책임져야 할 시점에 도달했다고 밝혔습니다.

미국 AI 감시 기관은 어떤 역할을 할까요?

해사비스는 이 기관을 증권거래위원회(SEC)의 권한 하에 월스트리트 브로커를 규제하는 민간 산업 기반 규제 기관인 FINRA 를 모델로 삼고 있습니다.

그의 계획에 따르면, 프런티어 랩들은 먼저 공개적으로 30 일 전에 모델을 인도하여 해당 기구가 위험한 사이버, 생물학적 및 '기만' 능력을 테스트할 수 있도록 해야 합니다.

그는 이러한 테스트가 신뢰할 수 있음이 입증되면 공식적인 규칙이 '빠르게 따라올 것'이라고 밝혔으며, 이는 모델이 미국 시장에서 배포되기 전에 통과되어야 함을 의미합니다.

이 기준은 모든 프런티어급 시스템에 적용되며, 하사미스는 '출신 국가나 오픈소스인지 폐쇄형인지와 무관하게' 기술 발전에 따라 벤치마크도 업데이트될 것이라고 덧붙였습니다.

그는 또한 이 이사회가 다수 독립적 구성원으로 채워져 튜링상 수상자 및 자격을 갖춘 연구자들이 참여하고, 산업계, 정부, 오픈소스 개발자를 위한 의석도 마련되기를 원한다고 밝혔습니다. 그는 '프런티어'라는 라벨이 지위의 상징이 될 것이라고 덧붙이며 '꽤나 매력적이고 권위 있는 자산이 될 것'이라고 말했습니다.

왜 하사미스는 지금 AI 감시 기구를 요구하는 것일까요?

하사미스는 오늘날의 AI 기반 사이버 공격이 '경고 신호'라고 말합니다. 그에 따르면 18 개월 이내에 더 심각한 생물학적 및 핵 위협이 어떤 정부도 되돌릴 수 없는 오픈소스 모델 안에 존재할 수 있습니다. 그는 위협이 오픈 시스템에만 국한되지 않으며, 랩들의 향후 독점 모델 역시 동일한 위험을 내포하고 있다고 덧붙였습니다.

그는 수개월 내에 감시 기구가 가동되기를 원하며, 공개 발표 전에 트럼프 행정부, 경쟁 연구소 리더들 및 유럽 관계자들을 최근 몇 주 동안 브리핑했다고 말했습니다. 그는 백악관 회담에 대해 "내가 듣고 있는 소식이 매우 긍정적"이라고 밝혔습니다.

해당 행정부는 지난달까지 손을 떼는 접근 방식을 선호했으나, 그달에 앤트로픽의 Mythos 및 Fable 모델을 수출 통제 명령 하에 두었습니다., 접근을 제한했습니다. 이후 해당 명령이 해제되었고, 앤트로픽은 더 강화된 통제 하에 모델을 출시했습니다.

한편 오픈AI는 GPT-5.6을 정부 검증 파트너로만 제한하는 데 동의 했으며, 상무부와 테스트를 거친 후 지난주 공개적으로 출시했습니다. 이는 앤트로픽과 같은 결과를 피하려는 시도로 해석되었습니다.

하사비스는 이 사건을 "약간의 각성제"라고 표현했습니다.

드문 합의 지점

앤트로픽 CEO 다리오 아모데이는 또한 안전하지 않은 AI 모델을 규제할 권한을 가진 기관이 있어야 한다는 의견으로, 구속력 있는 규칙과 FAA 스타일의 기관 설치를 요구합니다.

아모데이의 입장은 하사비스와 일치하지만, 후자는 경량화된 산업 주도 FINRA 구조를 선호합니다.

Hassabis 의 위험이 급격히 높아지고 있다는 믿음은 주목할 만합니다. 그는 인간의 모든 인지 능력을 갖춘 AGI(일반 인공지능) 가 “아직 몇 년 남지 않았다”고 말했으며, 스탠포드 행사에서는 2030 년 전후로 도래할 것이라고 “±1 년 오차 범위”를 제시했습니다. 그의 선언문에서 연구자들은 “모래가 생각하도록 만드는 방법을 찾아냈다”며 이를 “기적”이라고 표현했습니다.