영국, AI 안전 연구소를 샌프란시스코로 이전

영국 정부는 이번 여름 미국에 AI 안전 연구소의 첫 해외 사무소를 개설할 계획을 발표했습니다. 

또한 읽기: 기술 진화에서 영국과 미국의 AI 안전 협정의 역할

월요일 발표된 성명에서 영국의 과학기술 장관 미셸 도넬란은 새로운 미국 사무소가 샌프란시스코에 위치할 것이라고 말했습니다. 이 도시는 오픈AI, 앤티로픽, 인플렉션 AI를 포함한 일부 최대 AI 기업들을 보유하고 있습니다.

영국, 미국과의 AI 안전 파트너십 강화 모색

미국 사무소는 올해 말 운영을 시작하면서 연구 디렉터가 이끄는 기술 스태프 팀을 모집할 예정입니다. 런던 본부에는 현재 30명 이상의 기술 스태프가 있습니다.

기술 장관은 연구소의 확장이 영국의 AI 리더십을 나타내며 미국 정부와의 긴밀한 협력을 수립할 것이라고 말했습니다. 

이는 영국이 전 세계적 관점에서 AI의 위험과 잠재력을 모두 연구할 수 있는 능력의 중요한 순간이며, 미국과의 파트너십을 강화하고 다른 국가들이 우리가 AI 안전 분야에서 세계를 선도하는 가운데 우리의 전문성에 접근할 수 있는 길을 열어줍니다.

미셸 도넬란, 영국 과학기술 장관.

도넬란, 연구소가 “강점에서 강점으로” 성장했다고 말함

영국 정부는 2023년 11월 AI 안전 연구소를 도입했습니다. 이는 “급속하고 예상치 못한 AI 발전으로 인한 영국과 인류에 대한 놀라움을 최소화”하는 것이 목표라고 밝혔습니다. 

또한 읽기: 영국 정부, AI 안전 연구소 설립 발표

연구소는 주로 국가 안보의 관점에서 “프론티어” AI 시스템을 평가하는 데 중점을 둡니다. 이 기준에 따라 영국 정부는 관할권 내에서 배포된 AI 응용 프로그램에 대한 효과적인 정책 및 규제 대응을 개발할 수 있다고 밝혔습니다.

총리와 제가 AI 안전 연구소를 설립한 이후, 단 1년여 만에 연구소는 강점에서 강점으로 성장했습니다.

미셸 도넬란, 영국 과학기술 장관.

연구소, 모델 테스트 결과 발표

영국 AI 안전 연구소는 reportedly AI 모델 안전 테스트 결과를 발표한 최초의 정부 지원 기관입니다. 연구소는 5개의 공개적으로 이용 가능한 대규모 언어 모델을 테스트했지만, 이름은 특정하지 않았습니다. 

AI 안전은 아직 매우 젊고 신흥 분야입니다. […] 우리의 야망은 국가 안보 관련 위험에 중점을 둔 최첨단 평가를 개발하여 이 분야의 프론티어를 계속 밀어붙이는 것입니다.

이안 호가스, 영국 AI 안전 연구소 이사.

여러 모델이 사이버 보안 과제를 완료했습니다. 그러나 모두 기본적인 “재일브레이크”에 대해 매우 취약한 것으로 나타났습니다. 일부 모델은 보호 장치를 우회하려는 의도적인 시도가 없었음에도 해로운 결과를 생성했습니다.

크립토폴리탄의 이비아임 와야스 보도