캘리포니아 위원회, AI 규제 법안 추진

캘리포니아 주 의회 세출위원회는 AI 산업 규제를 목표로 하는 법안인 SB 1047에 찬성표를 던졌습니다. 공식적으로 '프런티어 인공지능 모델을 위한 안전하고 보안이 강화된 혁신법'으로 불리는 이 법안은 훈련 비용이 최소 1억 달러에 달하는 "프런티어" AI 모델 개발자들을 대상으로 합니다. 

이 법안은 해당 개발자들이 안전 조치를 채택하고, 감사를 받으며, 자신들의 모델이 심각한 피해를 입히지 않을 것이라는 확신을 제공하도록 요구합니다. 또한 AI 근로자에 ​​대한 내부 고발 제도를 마련하고, 주 검찰총장이 AI 모델로 인해 심각한 피해나 공공 위험을 초래하는 기업을 상대로 법적 조치를 취할 수 있도록 허용합니다. 

의원들은 업계의 우려를 해소하기 위해 법안을 개정했습니다.

이 법안은 또한 캘리포니아주의 AI 인프라를 지원하기 위해 CalCompute 퍼블릭 클라우드 컴퓨팅 클러스터를 설립하도록 규정하고 있습니다. 마크 저커버그는 최근 차세대 메타(Meta) 라마(Llama)에 10배 더 많은 컴퓨팅이 필요할 것이라고 밝혔는데, 이는 SB 1047의 적용을 받습니다. 

그러나 비판자들의 비판에 대응하기 위해 몇 가지 중요한 개정이 이루어졌습니다. 중요한 것은, 해당 법안에서 형사 처벌 조항이 삭제되었고, 프론티어 모델 부문(Frontier Model Division)이라는 새로운 규제 기관을 설립하는 조항도 삭제되었다는 것입니다.  

위너 상원의원에 따르면, 이 법안에서 가장 마음에 드는 부분은 혁신과 안전의 균형이었습니다. 위너 상원의원은 보안과 혁신을 동시에 개선할 수 있다고 설명하며, 보안이 발전의 걸림돌이 되어서는 안 된다고 강조했습니다. 

이 법안은 실리콘 밸리와 기술 업계 전체에 큰 논란을 불러일으켰습니다. 안나 에슈, 조이 로프그렌, 로 카나를 포함한 실리콘 밸리 의회 회원들과 기술 대기업들 또한 이 법안에 반대했습니다. 

법안은 다음 입법 단계로 진행됩니다.

개빈 뉴섬 주지사에게 보낸 서한에서, 이 의원들은 해당 법안이 기술의 악용 가능성에 지나치게 집중하고 있다고 지적하며 거부권을 행사해 달라고 요청했습니다. 또한, 이 법안이 잘못된 정보, 환경적 영향, 또는 일자리 감소와 같은 더 시급한 문제들을 다루지 않는다고 지적했습니다. 

앤드리슨 호로비츠의 최고법무책임자(CLO)인 자이쿠마르 라마스와미 역시 이러한 우려를 표하며, 이 법안이 혁신을 저해하고 기술 기업들을 캘리포니아에서 몰아낼 수 있다고 지적했습니다. 이 법안은 제프리 힌튼과 요슈아 벤지오 등 영향력 있는 AI 연구자들의 지지를 받았습니다.

SB 1047 법안은 세출위원회의 승인을 거쳐 현재 주 의회 본회의에 상정되어 있으며, 8월 31일까지 통과되어야 합니다. 법안이 승인되면 세 번째이자 마지막으로 주 상원으로 회부되고, 그 후 주지사실로 이송됩니다. 주지사는 본 문서에서 이 법안에 대한 어떠한 공개 성명도 발표하지 않았습니다. SB 1047 법안이 승인될 경우, 2026년까지 발효되지 않으며, 이는 FMD(재난관리국) 설립을 위한 시간을 확보하는 데 도움이 될 것입니다.