영국 정부, 인공지능 안전 연구소 설립 발표

영국 정부는 인공지능 안전 연구소(AI Safety Institute) 설립을 발표했으며, 이 연구소는 과학혁신기술부(DSIT) 산하에 남아 있는 프론티어 AI 태스크포스(Frontier AI Taskforce)의 핵심 기능을 인계받을 예정입니다. 연구소는 태스크포스가 시작한 안전 연구 및 평가를 계속 수행하지만, 공공 부문에서 AI의 새로운 응용 분야를dent하고 영국의 AI 역량을 강화하는 정책 관련 책임은 DSIT에 그대로 유지됩니다.

지속적인 임무 및 협력

AI 안전 연구소의 주요 목표는 AI의 급속한 발전으로 인한 예측 불가능한 파급 효과를 완화하는 데 중점을 두고 있으며, 이는 AI 발전으로 인한 예상치 못한 혼란을 방지하려는 정부 전략과 일맥상통합니다. 리시 수낙 총리는 연구소가 AI 안전을 위한 글로벌 핵심 역할을 수행할 것이라고 강조하며, 급속도로 발전하는 이 기술의 잠재력과 위험성을 평가하는 데 있어 연구소가 주도할 중요한 연구를 언급했습니다.

미셸 도넬란 기술부 장관은 성명을 통해 AI 안전 연구소가 국제적인 기준을 제시하고, 최첨단 AI 기술과 관련된 위험 관리와 관련하여 전 세계 정책 입안자들에게 필수적인 지침을 제공할 수 있을 것이라는 확신을 표명했습니다. 연구소의 협력 노력은 DSIT 내에 최근 설립된 중앙 AI 위험 관리 부서를 비롯한 다양한 분야로 확대되어, AI 개발 및 안전 분야의 최신 정보를 정부 전반에 확산하는 데 기여할 것입니다.

운영 목표 및 국제적 인정

공식 발표에 따르면 AI 안전 연구소는 AI 모델에 내재된 잠재적 위험을 해결하는 데 중점을 두고 새로운 AI 기술 발전을 출시 전후로 면밀히 검토할 예정입니다. 이러한 포괄적인 접근 방식은 편견과 허위 정보 같은 사회적 문제부터 인류가 AI를 완전히 통제하지 못하는 극단적이지만 가능성은 낮은 시나리오에 이르기까지 다양한 위험 평가를 포함합니다.

또한, 본 연구소는 효과적인 AI 안전 전략 및 실천 방안을 모색하는 과정에서 데이터 과학 및 AI 분야의 국가 센터인 앨런 튜링 연구소와 긴밀한 협력 관계를 구축할 예정입니다. 본 연구소 설립에 대한 전 세계적인 반응은 대체로 긍정적이며, 미국, 캐나다, 싱가포르, 일본 등 주요 국가들의 지지를 받고 있습니다. 독일 정부 역시 잠재적 협력에 관심을 표명하며 이 분야에서의 협력 기회를 적극적으로 모색하고자 하는 의지를 보여주고 있습니다.

국제 협력 및 향후 전망

영국은 이미 미국의 AI 안전 연구소 및 싱가포르 정부와 AI 안전 테스트 관련 협력에 중점을 두고 파트너십을 강화해 왔습니다. 정부의 이러한 선제적인 접근 방식은 견고한 국제 협력의 토대를 마련했으며, 이는 전 세계적인 AI 안전 표준 및 관행 발전에 크게 기여할 것으로 기대됩니다.

새롭게 설립된 AI 안전 연구소는 정부의 AI 위험 평가 및 관리 접근 방식에 있어 획기적인 변화를 의미합니다. 당초 AI 재단 모델 태스크포스(AI Foundation Model Taskforce)로 알려졌던 이 기구는 지난 4월, G7 정부 최초로 첨단 AI 모델과 관련된 위험을 평가하는 전담팀을 구성하는 임무를 맡아 설립되었습니다. 9월에 명칭이 변경되고 첫 번째 진행 보고서가 발표되면서, 이 기구의 책임 범위와 중요성이 확대되었음을 보여주었습니다.

정부는 지난 6월 태스크포스 의장직을 맡은 이언 호가스에게 AI 안전 연구소(AI Safety Institute)의 수장직을 맡겼습니다. 연구소는 최고경영자(CEO) 임명을 위한 채용 절차를 시작하며, 중요한 임무를 이끌어갈 유능하고 경험 많은 팀을 구성하겠다는 의지를 다지고 있습니다.

정부가 주최한 이틀간의 글로벌 AI 안전 정상회의가 성공적으로 마무리되면서, AI 안전 연구소 설립은 급속도로 발전하는 AI 기술에서 비롯되는 위험을 효과적으로 관리하고 대응하기 위한 영국의 노력에 있어 중요한 이정표로 자리매김했습니다. 협력과 국제적 파트너십에 중점을 둔 이 연구소는 급변하는 기술 환경 속에서 포괄적인 위험 평가 및 관리에 대한 높은 기준을 제시하며, 전 세계적인 AI 안전 추구에 있어 핵심적인 역할을 수행할 것으로 기대됩니다.