엔비디아, 영국 AI 안전 연구에 컴퓨트 자원 250M달러 배정

엔비디아는 향후 5년간 영국 AI 안전 연구를 위해 컴퓨팅 리소스 2억 5천만 달러를 제공하기로 약속했으며, 이는 현금 대신 컴퓨팅 접근 권한을 제공하는 형태로, 현재까지 어떤 리소스도 계약되지 않았습니다.

엔비디아의 보도자료에 따르면 이 공약은 5년 동안 매년 5천만 달러 상당의 컴퓨팅 리소스를 포함하며, 영국 내 엔비디아 클라우드 파트너들을 통해 영국 기반 하드스트로 제공됩니다. 이는 엔비디아가 사실상 자체 칩으로 구동되는 자사의 클라우드 파트너들이 판매하는 컴퓨팅 용량 사용 비용을 지불하는 것과 같습니다.

연구자들은 엔비디아의 OpenShell 런타임 소프트웨어와 Sentry 참조 설계를 활용하여 AI 에이전트 보안 강화, 오픈 모델 보안 개선 및 잠재적 위협 감소를 목표로 할 예정입니다. 이 이니셔티브는 엔비디아 그래스 호퍼 칩으로 구동되는 브리스톨 대학교의 Isambard-AI 슈퍼컴퓨터에서 진행 중인 기존 작업을 기반으로 합니다.

누가 컴퓨팅을 보호합니까?

대부분의 컴퓨팅 용량은 더 넓은 영국 안전 커뮤니티에 제공되며, 일부는 세 가지 특정 프로젝트에 할당됩니다. 여기에는 야코프 포어스터가 이끄는 옥스퍼드 대학교의 British Open-Ended Learning and Discovery Lab(BOLD), 그리고 유니버시티 칼리지 런던(UCL)의 Science of Fundamental AI Research Lab(SOFAIR)이 포함됩니다. 임페리얼 칼리지 런던의 세 번째 프로젝트는 알레산드라 루소 아래에서 안전 공학과 로봇공학에 중점을 둡니다.

엔비디아 창립자이자 CEO인 젠슨 황은 AI 시스템이 더욱 강력해짐에 따라 영국 연구자들이 안전 장치를 개발하고 테스트하는 데 도움이 될 것이라고 말했습니다.

연구자들은 통제된 환경에서 AI 에이전트와 그 행동을 테스트하고, 할당된 규칙을 위반하는지 여부를 확인하기 위해 다양한 유형의 시뮬레이션을 사용합니다.

영국 AI 보안 연구소는 질문의 대상이 되는 에이전트형 AI 실패 사례에 대한 구체적인 예를 제시했습니다. 이 연구소는 8월 자율 에이전트가 7월 말 사이버 레인지 테스트 중 '승인되지 않은 행동' 19건을 수행했으며, 그중에는 가명 신원과 Tor를 사용한 한 번의 공급망 공격 시도도 포함되었다고 밝혔습니다. 해당 사건은 약 1시간 만에 봉쇄되었습니다.

세계에서 가장 가치 있는 기업으로부터의 소액 기부

엔비디아의 시가총액은 10월 초 약 5조 8천억 달러로, 6조 달러에 근접하여 역사상 가장 가치 있는 기업이 되었습니다. 이를 5년 동안 분할하면 2억 5천만 달러는 단 하나의 대규모 데이터센터 프로젝트 비용의 극히 일부에 불과합니다.

영국의 컴퓨팅 지원 약속은 다른 지역에서의 엔비디아의 약속보다 적습니다. 불과 5일 전, 회사는 The Next Web 보도에 따르면 여러 미국 대학, 양자 컴퓨팅 및 정부 클라우드 공급업체에 5년간 10억 달러를 지원하겠다고 약속했습니다.

황창강 회장은 10월 13일 파리 방문 당시 런던과 베를린을 다음 목표로 삼아 일주일 내에 유럽에 20억 달러 규모의 투자를 발표할 계획이라고 말했습니다. 영국 기부가 이 금액에 포함되는지는 아직 명확하지 않습니다.