캘리포니아 인공지능 규제 법안, 주지사에게 제출

인공지능(AI) 규제를 위한 논란이 많았던 법안이 캘리포니아 주의회에서 중요한 고비를 넘겼습니다. 대규모 AI 모델의 안전을 규제하는 것을 목표로 하는 SB-1047 법안이 캘리포니아 주 의회에서 찬성 45표, 반대 11표로 통과되었습니다. 

지난 5월 주 상원에서 32대 1의 압도적인 찬성으로 통과된 이 법안은 개빈 뉴섬 주지사의 서명을 받기 전에 상원에서 절차적 표결을 한 번 더 거쳐야 할 것으로 예상됩니다. 

인공지능 전문가들이 인공지능의 잠재적 위협에 대응하는 법안을 지지합니다

SB-1047 법안은 훈련된 대규모 AI AI가 대중에게 부정적인 영향을 미칠 경우 AI를 차단하는 '킬 스위치'를 포함하도록 요구합니다. 이러한 접근 방식은 AI 시스템이 인간의 개입을 최소화하면서 작동해야 하고 최악의 시나리오가 발생할 수 있는 경우에 특히 중요합니다. 

법안 통과를 지지하는 사람들은 첨단 AI 기술이 점점 더 자립적으로 변하고 있기 때문에, 이 법안은 그에 따른 위험을 해결하기 위해 필요하다고 주장합니다. 법안 발의자인 스콧 위너 주 상원의원은 AI 분야의 저명한 전문가인 제프리 힌튼과 요슈아 벤지오 같은 인물들이 AI가 가져올 수 있는 잠재적 위협에 대해 우려를 표명했다는 점을 지적했습니다.

지난해 힌튼과 벤지오는 인공지능이 제대로 통제되지 않으면 인류 멸종으로 이어질 수 있다는 내용의 성명서에 서명한 사람들 중 하나였습니다. 

비평가들은 빌이 혁신에 미칠 영향에 대해 우려를 표명하고 있다

하지만 SB-1047 법안은 인공지능 연구 및 사업 지지자들로부터 많은 비판을 받았습니다. 일각에서는 이 법안이 딥페이크나 가짜 뉴스 같은 현재의 위험보다는 미래에 발생할 수 있는 위험에 더 초점을 맞추고 있다고 주장했습니다. 

스탠포드 인간중심 인공지능 연구소 소장인 페이페이 리는 이 법안에 대해 강력하게 반대 입장을 표명해 왔습니다. 리 소장은 최근 기고문에서 이 법안이 개발자들의 법적 책임 부담을 가중시켜 혁신을 저해한다고 주장했습니다. 그녀는 이러한 법적 책임이 학술 연구 및 협업에 필수적인 AI 모델과 가중치의 오픈소스 공유를 저해할 수 있다고 지적했습니다.

캘리포니아 재계 지도자들은 개빈 뉴섬 주지사에게 해당 법안에 대한 거부권을 행사해 줄 것을 요청하는 공개 서한에 서명했습니다. 이들은 해당 법안이 "근본적으로 결함이 있다"고 주장했습니다. SB-1047 법안이 통과될 가능성이 높아짐에 따라, 뉴섬 주지사는 9월 30일까지 법안을 승인해야 합니다.

올해 5월 UC 버클리에서 열린 심포지엄에서 뉴섬 캘리포니아 주지사는 동의했습니다 . 그는 과도한 규제로 인해 주가 "매우 불안정한 상황"에 처할 수 있다고 우려를 표명했습니다. 그러나 뉴섬 주지사는 AI 업계 대표들이 제기한 몇 가지 질문을 고려하여 어느 정도의 규제가 필요하다는 점도 인정했습니다.