영국, 인공지능 안전 연구소를 샌프란시스코로 이전

영국 정부는 인공지능 안전 연구소의 첫 해외 사무소를 올여름 미국에 개설할 계획이라고 발표했습니다. 

다음 글도 읽어보세요: 기술 발전에 있어 영국과 미국 간 AI 안전 협정의 역할

에서 월요일에 발표된 성명미셸 도넬란 영국 과학기술부 장관은 새로운 미국 사무소가 샌프란시스코에 위치할 것이라고 밝혔습니다. 샌프란시스코에는 오픈AI, 앤스로픽, 인플렉션 AI 등 주요 AI 기업들이 자리 잡고 있습니다. 

영국, 인공지능 안전 분야에서 미국과의 파트너십 강화 모색

미국 지사는 올해 하반기 운영을 시작하면서 연구 책임자를 중심으로 기술진을 채용할 계획입니다. 연구소의 런던 본부에는 현재 30명이 넘는 기술진이 근무하고 있습니다.

기술 담당 장관은 연구소 확장이 인공지능 분야에서 영국의 리더십을 보여주는 것이며 미국 정부와의 긴밀한 협력 관계를 구축할 것이라고 말했습니다. 

이는 영국이 세계적인 관점에서 인공지능의 위험성과 잠재력을 모두 연구할 수 있는 중요한 순간이며, 미국과의 파트너십을 강화하고 다른 국가들이 영국의 전문성을 활용할 수 있도록 길을 열어주는 동시에 영국이 인공지능 안전 분야에서 세계를 선도해 나갈 수 있도록 하는 것입니다.

미셸 도넬런, 영국 과학기술부 장관.

도넬란은 연구소가 "점점 더 성장해왔다"고 말했습니다.

영국 정부는 2023년 11월 인공지능 안전 연구소(AI Safety Institute)를 설립했습니다. 연구소의 목표는 "인공지능의 급속하고 예상치 못한 발전으로 인해 영국과 인류가 겪게 될 불미스러운 일들을 최소화하는 것"이라고 밝혔습니다. 

관련 기사: 영국 정부, AI 안전 연구소 설립 발표

이 연구소는 주로 국가 안보의 관점에서 "첨단" AI 시스템을 평가하는 데 중점을 두고 있습니다. 영국 정부는 이러한 평가를 통해 자국 관할권 내에 배포되는 AI 애플리케이션에 대한 효과적인 정책 및 규제 대응책을 개발할 수 있을 것이라고 밝혔습니다.

총리와 제가 인공지능 안전 연구소를 설립한 이후, 연구소는 불과 1년여 만에 눈부신 성장을 거듭해 왔습니다.

미셸 도넬런, 영국 과학기술부 장관.

연구소, 모델 테스트 결과 발표

영국 AI 안전 연구소는 정부 지원 기관 중 최초로 AI 모델 안전성 테스트 결과를 발표한 것으로 알려졌습니다. 연구소는 공개적으로 이용 가능한 대규모 언어 모델 5개를 테스트했지만, 구체적인 모델명은 밝히지 않았습니다. 

인공지능 안전은 아직 매우 초기 단계의 신흥 분야입니다. […] 저희는 국가 안보 관련 위험에 중점을 두고 최첨단 평가 방법을 개발하여 이 분야의 발전을 지속적으로 이끌어 나가고자 합니다.

이안 호가스, 영국 AI 안전 연구소 소장.

보고서에 따르면 여러 모델이 사이버 보안 과제를 완료했지만, 모두 기본적인 "탈옥" 공격에 매우 취약한 것으로 나타났습니다. 일부 모델은 고의적인 보안 조치 우회 시도가 없었음에도 불구하고 유해한 결과를 초래했습니다.

Cryptopolitan 의 이비암 와야스(Ibiam Wayas) 기자 보도