- 구글 딥마인드 CEO 데미스 하사비스는 강력한 AI 모델을 심사하고 위험이 커지면 개발을 중단시킬 수 있는 미국 금융산업규제기관(FINRA)과 같은 규제 기관 설립을 원한다.
- 그의 계획은 첨단 연구소들이 출시 30일 전에 사이버, 생물학 및 기만 테스트를 위한 모델을 자발적으로 제출하도록 하는 것입니다.
- 하사비스는 심각한 생물학적 및 핵 위험이 18개월 이내에 발생할 수 있다고 경고합니다.
구글 딥마인드의 공동 창립자이자 CEO인 데미스 하사비스는 미국 정부가 세계에서 가장 강력한 AI 모델들을 감시하는 새로운 규제 기관을 설립해야 한다고 주장했습니다. 이 기관은 위험성이 커질 경우 업계에 개발 속도를 늦추도록 명령할 권한도 갖게 될 것입니다.
그는 7월 14일에 발표한 선언문에서 이 내용을 자세히 설명하며 연말 이전에 해당 기구를 출범시키고 싶다고 밝혔습니다.
하사비스는 인공지능 분야의 선두 주자 중 한 명입니다. 그는 단백질 접힘 연구로 2024년 노벨 화학상을 공동 수상했으며, 제미니 프로젝트를 담당하는 연구소를 이끌고 있습니다.
그는 인터뷰 에서 인공지능 감독이 이루어져야 할 시점에 이르렀으며matic, 연구소 자체에서 자금을 지원하고, 기술 전문가를 배치하고, 미국 정부에 책임을 져야 한다고 밝혔습니다.
미국 인공지능 규제기관은 어떤 조치를 취할까요?
하사비스는 증권거래위원회(SEC)의 권한 아래 월스트리트 브로커들을 감독하는 민간 업계 자금 지원 규제 기관인 금융산업규제기구(FINRA)를 모델로 삼아 해당 기관을 설립하고 있다.
그의 계획에 따르면, 첨단 연구소들은 출시 최대 30일 전에 자발적으로 모델을 넘겨주어, 인체가 사이버, 생물학적, 그리고 "기만" 능력 등 위험한 기능을 테스트할 수 있도록 할 것이다.
그는 해당 테스트가 신뢰할 만하다고 입증되면 공식적인 규정이 "신속하게 뒤따를 수 있다"고 밝혔는데, 이는 해당 모델이 미국 시장에 출시되기 전에 테스트를 통과해야 한다는 의미입니다.
하사비스는 이러한 기준이 모든 최첨단 시스템에 적용될 것이며, "시스템의 출신 국가나 개방형인지 폐쇄형인지에 관계없이" 적용될 것이라고 덧붙였습니다. 또한 기술이 발전함에 따라 기준도 업데이트될 것이라고 밝혔습니다.
그는 또한 이사회가 튜링상 수상자와 기타dent연구자들로 구성된 독립적인dent차지하고, 산업계, 정부 및 오픈 소스 개발자들을 위한 자리도 마련되기를 바란다고 말했다. 그는 "프론티어"라는 명칭이 일종의 지위의 상징이 될 것이라고 언급하며, "그것은 매우 훌륭하고 명예로운 자산이라고 생각합니다."라고 덧붙였다
하사비스는 왜 지금 인공지능 감시 기구 설립을 요구하는 걸까요?
하사비스는 오늘날의 AI 기반 사이버 공격은 "경고 사격"이라고 말했습니다. 그의 말에 따르면, 18개월 안에 어떤 정부도 제거할 수 없는 더욱 심각한 생물학적 및 핵 위협이 오픈 소스 모델 안에 숨어 있을 수 있다고 합니다. 그는 또한 이러한 위협이 오픈 소스 시스템에만 국한되지 않고 연구소들이 자체 개발할 미래의 독점 모델에도 동일한 위험이 내재되어 있을 것이라고 덧붙였습니다.
그는 감시 기구를 몇 달 안에 가동시키고 싶다고 말했으며, 공식 발표에 앞서 최근 몇 주 동안 트럼프 행정부, 경쟁 연구소 책임자, 유럽 관계자들을 대상으로 브리핑을 진행했다고 밝혔습니다. 그는 백악관과의 회담에 대해 "매우 긍정적인 반응을 얻고 있다"고 말했습니다.
해당 행정부는 지난달까지는 소극적인 접근 방식을 선호했지만, 이후 앤트로픽의 미소스(Mythos) 및 페이블(Fable) 모델에 대해 수출 통제 명령을접근을 제한했습니다. 이 명령은 나중에 해제되었고, 앤트로픽은 더 강화된 통제 조치를 적용하여 해당 모델들을 다시 출시했습니다.
반면 OpenAI는 상무부와의 테스트를 거쳐 지난주 공개하기 전에 정부 검증을 거친 파트너에게만 GPT-5.6을 제공 하기로 합의했는데, 이는 Anthropic과 같은 결과를 피하려는 시도로 해석되었다
하사비스는 이번dent 이 "일종의 경각심을 일깨워주는 계기"라고 말했습니다
드문 의견 일치
앤트로픽의 CEO인 다리오 아모데이는 또한 안전하지 않은 AI 모델을 규제할 권한을 가진 기관이 있어야 한다고 주장하며, 구속력 있는 규칙과 FAA와 같은 기관의 설립을 촉구했습니다.
아모데이의 입장은 하사비스의 입장과 일치하지만, 하사비스는 업계 주도의 보다 간소화된 FINRA 구조를 선호한다.
하사비스가 상황의 심각성이 빠르게 고조되고 있다고 믿는 점은 주목할 만하다. 그는 인간의 모든 인지 능력을 따라잡는 인공 일반 지능(AGI) 시스템이 "아마도 몇 년 안에 등장할 것"이라고 말했으며, 스탠퍼드 행사에서는 2030년경, "1년 정도 오차 범위 내에서" 등장할 것이라고 예측했다. 그는 선언문에서 연구자들이 "모래가 생각하게 만드는 방법을 발견했다"며 이를 "기적"이라고 칭했다
암호화폐 뉴스를 단순히 읽는 데 그치지 마세요. 이해하세요. 저희 뉴스레터를 구독하세요. 무료입니다.
자주 묻는 질문
데미스 하사비스는 무엇을 제안하고 있는가?
그는 월가 금융감독청(FINRA)을 모델로 삼아 미국에 인공지능 표준 기구를 설립할 것을 제안하고 있는데, 이 기구는 세계에서 가장 발전된 인공지능 모델들의 위험한 사이버, 생물학적, 기만 능력을 검증하고 위협이 증가할 경우 업계 전반의 개발 속도를 늦추는 조치를 취할 수 있을 것이다.
하사비스는 언제 인공지능 감시 시스템을 가동시키고 싶어하는가?
그는 악시오스(Axios)와의 인터뷰에서 "몇 달 안에", 이상적으로는 2026년 말 이전에 해당 기구가 가동되기를 바란다고 말했으며, 트럼프 행정부와의 회담에서 긍정적인 반응을 얻었다고 밝혔다.
다른 AI 연구소들도 하사비스의 의견에 동의하는가?
주요 연구소 대표들은 워싱턴이 첨단 AI를 규제해야 한다는 데 동의하지만, 그 구조에 대해서는 의견이 분분하다. 앤트로픽 CEO 다리오 아모데이는 안전하지 않은 모델을 차단할 수 있는 구속력을 가진 FAA(미국 연방항공국)와 같은 기관 설립을 주장하는 반면, 하사비스는 정부 감독 하에 업계 자금으로 운영되는 간소화된 기구를 선호한다.
한나 콜리모어
한나는 암호화폐 분야에서 10년 가까이 블로그를 운영하고 행사를 취재해 온 작가 겸 편집자입니다. Cryptopolitan에서 뉴스 페이지에 기고하며, 탈중앙화 DeFi), 반응형 웹 자산(RWA), 암호화폐 규제, 인공지능(AI) 및 첨단 기술 산업의 최신 동향을 보도하고 분석합니다. 아카디아 대학교에서 경영학 학위를 받았습니다.
