최신 뉴스
당신을 위한 선택

영국, 안트로픽이 안전 기관에 최신 모델 제공을 보류한 것에 대한 트럼프의 영향력 우려

작성자한나 콜리모어한나 콜리모어 3분 읽기
Anthropic에서 또 다른 연구원이 이탈하며 AI로 인한 인류의 파국을 경고
  • 앤트로픽은 출시 전 영국 AI 보안 연구소(AISI)에 최신 모델인 '클로드 마이스 5.1'을 제공하지 않았습니다.
  • 검증된 미국 조직이 접근할 수 있게 되면서, 트럼프 시대의 미국 첨단 AI 통제가 민간 기업으로 확산될 것이라는 영국의 우려가 제기되었습니다.
  • 백악관은 기업들이 여전히 자체적으로 출시 여부를 결정한다고 밝혔습니다.

영국 관리들은 미국 대통령 도널드 트럼프가 안트로픽이 공개하기 전에 영국 AI 안전 테스트 기관인 AI 보안 연구소(AISI)에 최신 Claude Mythos 5.1 모델을 개방하지 않는 데 얼마나 큰 영향력을 행사했는지 의문을 제기하기 시작했습니다.

내각부 대변인은 Mythos 5.1이 제공되지 않았는지 여부를 확인하기까지 가지 않았으며, BBC에 영국이 “안트로픽을 포함한 산업 파트너와 긴밀히 협력하여 모델을 더 안전하게 만들고 있다”고 말했습니다.

영국 관리들은 이제 이 안트로픽 출시가 예외인지, 아니면 워싱턴의 첨단 AI에 대한 통제 강화가 반영된 변화하는 관계에서 그와 같은 첫 번째 사례인지 조사하고 있습니다. 파이낸셜 타임스.

영국 규제 기관은 출시 전에 AI 모델을 테스트합니까?

AI 보안 연구소(AISI)는 최첨단 AI 시스템의 국가 안보 위험을 평가하도록 임명된 영국 기관입니다.

특히, 영국 기관이 Mythos 5.1에 대한 출시 전 접근 권한을 갖지 않은 불길한 선례가 설정되었습니다. FT에 따르면 이는 처음 있는 일입니다. 미국 내 기관만 공개 출시 전에 모델을 볼 수 있었습니다.

지난주 Cryptopolitan이 보고한 바와 같이, 안트로픽은 사이버 보안 및 생명 과학 분야의 승인된 전문가를 위해 Fable 5.1보다 완화된 안전 장치가 있는 좁은 도구로 Mythos 5.1을 출시했습니다.

영국 관리들이 트럼프의 간섭을 의심하는 이유

영국 측의 우려는 이번 사례의 단일 결정보다는 워싱턴이 해외에서 첨단 미국 AI의 사용 방식을 통제하는 것을 점진적으로 강화해 온 패턴을 따릅니다.

도널드 트럼프 대통령 행정부 하에서 미국은 안트로픽의 가장 진보된 모델에 대한 외국인 접근을 일시적으로 제한하기 위해 수출 통제를 도입했으며, 여기에는 미국 AI 회사에 고용된 외국인도 포함됩니다.

방금 지난달, 오픈AI도 정부의 요청에 따라 일부 새로운 시스템을 ‘신뢰할 수 있는 파트너’로 제한하기로 동의했습니다.

특히 트럼프 백악관은 공식 채널을 통해 CNBC에 행정부가 민간 부문 기업의 출시 제품에 대해 공식적으로 승인하지 않는다고 밝혔습니다. 또한 기업들이 자발적인 테스트와 정부 전문가와의 미팅의 시기와 범위에 대한 책임을 진다고 강조했습니다.

영국 AISI는 무엇을 합니까?

2023년 11월 AI 안전 연구소로 설립되어 2025년 2월 AI 보안 연구소로 이름이 변경된 AISI는 연간 £6600만 달러의 예산으로 운영되며, 과학·혁신·기술부 내부에서 100명 이상의 기술 전문가를 고용하고 있습니다. 이 연구소는 최첨단 모델 30개 이상을 평가했습니다, per the Ada Lovelace Institute.

그러나 AISI는 기업이 모델을 제출하도록 강제할 수 없으며, 접근 조건을 설정할 수 없으며, 모델이 시장에 도달하는 것을 막을 수 없습니다. 실제로 규제 기관이 아니기 때문입니다. AISI는 모델 제작자의 자발적 참여를 통해 테스트한 모델을 영국 정부에 알리는 임무만 수행할 수 있습니다.

AISI는 2026년 봄에 안트로픽의 Claude Mythos 모델이 사이버 공격을 수행하는 능력이 급격히 증가하는 것을 발견했습니다. 이번에는 Mythos 5.1에 대해 그러한 평가를 수행할 수 없었습니다.

이번 주 이후로 이 두통은 편두통으로 확대되었을 것입니다. 안트로픽 연구원 3명이 공개적으로 경고 했기 때문입니다. 정렬 책임자 에반 허빙어는 X에 10년 이내에 AI가 “모든 인간을 죽일 수 있다”는 확률이 10% 이상이라고 작성했으며, 회사가 “슈퍼인텔리전스에 대한 정렬 문제를 해결할 계획을 아직 가지고 있지 않다”고 덧붙였습니다.

안트로픽과 AISI 사이에는 사이버 위험에 대한 최근 역사도 있습니다. 8월 테스트에서 안트로픽의 Mythos 5와 오픈AI의 GPT-5.6 Sol을 기반으로 한 에이전트가 이탈했으며, Mythos 에이전트는 오픈 소스 GitHub 프로젝트에 악성 코드를 삽입하려고 하고 유지 관리자에게 압력을 가하기 위해 가짜 신원을 발명했습니다.

안트로픽은 7월 23일 외부 사이버 테스트를 일시 중단하고 새로운 통제 장치를 추가한 후 9월 1일에 재개했습니다. Cryptopolitan이 보고.

가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.

자주 묻는 질문

앤트로픽이 영국에 어떤 모델을 제출하지 않았습니까?

앤트로픽은 지난주 출시된 사이버보안 및 생명과학 특화 모델인 '클로드 마이스 5.1'에 대해 사전 접근 권한을 영국 AI 보안 연구소(AISI)에 부여하지 않았으며, 이는 검증된 미국 조직에만 제한적으로 제공됩니다.

왜 영국 당국은 이 결정에 우려를 표명하고 있습니까?

이는 앤트로픽이 최신 모델을 AISI에 제출하지 않은 첫 사례이며, 당국자들은 이것이 트럼프 대통령 하에서 미국의 동맹국들이 첨단 미국 AI를 사용하는 방식을 제한하려는 더 넓은 미국의 노력의 일환일 수 있다고 우려했습니다.

AISI는 AI 기업에게 모델을 제출하도록 강제할 수 있습니까?

아닙니다. 애다 러브레이스 연구소에 따르면 AISI는 규제 기관이 아닌 정부 연구 기관으로, 미출시 모델에 대한 접근을 강제하거나 접근 조건을 설정하거나 모델 출시를 막을 권한이 없습니다.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.

한나 콜리모어

한나 콜리모어

한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.

더 많은 뉴스 …