캘리포니아 주지사 개빈 뉴섬, AI 안전 법안에 거부권 행사

캘리포니아 주지사 개빈 뉴섬은 논란이 되고 있는 인공지능(AI) 법안에 거부권을 행사하며, 해당 법안이 혁신을 저해하고 AI 기술의 "실질적인" 우려로부터 대중을 보호하지 못할 것이라고 밝혔습니다. 법안 지지자들은 이 법안이 대규모 AI 모델에 대한 최초의 국가적 규제를 마련하고 국가 차원의 AI 안전법 제정의 길을 열었을 것이라고 주장합니다.

9월 30일, 뉴섬 주지사는 실리콘 밸리의tron반대에 부딪혀 '첨단 인공지능 모델의 안전하고 확실한 혁신을 위한 법안'(SB 1047)을 부결시켰습니다. 이 법안은 인공지능 모델에 대한 의무적인 안전성 테스트와 기타 안전장치를 권고했는데, 거대 기술 기업들은 이러한 조치가 혁신을 저해할 것을 우려했습니다.

뉴스옴 주지사는 해당 법안이 기존의 주요 AI 기업들을 규제하는 데 지나치게 초점을 맞추고 있으며, 새로운 기술이 제기하는 "실질적인" 위험으로부터 대중을 보호하는 데는 실패했다고 주장했습니다.

그는 이렇게 말했다:

오히려 이 법안은 대규모 시스템에서 사용하기만 하면 가장 기본적인 기능에도 엄격한 기준을 적용합니다. 저는 이것이 기술이 제기하는 실질적인 위협으로부터 대중을 보호하는 최선의 접근 방식이라고 생각하지 않습니다.

– 개빈 뉴섬

상원의원, 거부권 행사 비판하며 공공 안전에 대한 후퇴라고 지적

법안 발의자인 민주당 소속 스콧 위너 주 상원의원은 이번 부결은 공공의 안전, 복지, 그리고 지구의 미래에 영향을 미치는 중요한 결정을 내리는 거대 기업에 대한 감독을 지지하는 모든 사람에게 좌절감을 안겨주는 것이라고 평가했습니다. 

SB 1047 법안은 OpenAI, Meta, Google과 같은 주요 업체를 포함한 개발업체들이 인공지능 모델에 "킬 스위치"를 구현하고 극단적인 위험을 완화하기 위한 계획을 수립하도록 의무화하는 내용을 담고 있었습니다. 또한, 이 법안은 인공지능이 전력망을 장악하는 등 지속적인 위협을 가하는 모델의 경우, 주 법무장관이 인공지능 개발업체를 상대로 소송을 제기할 수 있도록 허용하는 내용도 포함하고 있었습니다.

이 법안은 개발 비용이 1억 달러 이상이고 상당한 처리 능력을 필요로 하는 시스템을 구체적으로 겨냥했습니다. 현재 인공지능 모델 중 이 기준에 도달한 모델은 없지만, 일부 전문가들은 내년 안에 상황이 바뀔 수 있다고 전망했습니다.

뉴섬 주지사는 안전법안 논란 속에서 과학에 기반한 AI 규제를 옹호했습니다 

뉴스옴 주지사는 캘리포니아 주가 인공지능 개발로 인한 잠재적 위험을 과학적으로 분석하는 것을 우선시하는 효과적인 규정을 마련하기 위해 주요 인공지능 안전 전문가들과 협의했다고 밝혔습니다. 그는 또한 강력한 안전 프로토콜을 지속적으로 추진할 것이며, 규제 당국은 대형 참사가 발생하기를 기다려서는 안 된다고 강조했습니다.

뉴섬 주지사는 SB 1047 법안에 거부권을 행사했음에도 불구하고, 지난 한 달 동안 인공지능 규제와 관련된 18개 이상의 법안에 서명했다고 강조했습니다.

뉴섬 주지사의 결정 이전에는 이 법안이 정치인, 컨설턴트, 주요 기술 기업들 사이에서 인기가 없었습니다. 낸시 펠로시 하원의장과 오픈AI 같은 기업들은 이 법안이 인공지능 발전을 크게 저해할 것이라고 주장했습니다.

어번던스 인스티튜트의 AI 정책 책임자인 닐 칠슨은 이 법안이 주로 1억 달러 이상의 고가 모델을 겨냥하고 있지만, 그 범위가 쉽게 확대되어 소규모 개발업체까지 단속할 수 있다고 경고했습니다. 

하지만 일부 사람들은 이 법안에 긍정적인 반응을 보이고 있습니다. '그록(Grok)'이라는 인공지능 모델을 개발 중인 억만장자 일론 머스크는 이 법안과 더 광범위한 인공지능 관련 법률을 지지하는 몇 안 되는 IT 업계 거물 중 한 명입니다. 머스크는 8월 26일 X에 올린 글에서 캘리포니아 주가 SB 1047 인공지능 안전 법안을 통과시켜야 할 가능성이 높다고 밝혔 지만, 법안 지지 여부는 "어려운 결정"이라고 인정했습니다.