캘리포니아 위원회, AI 규제 법안 승인

캘리포니아 주 의회 지출 위원회는 AI 산업을 규제하기 위한 제안된 법률인 SB 1047을 찬성으로 가결했습니다. 이 법안은 공식적으로 '프론티어 인공지능 모델에 대한 안전하고 안전한 혁신법'으로 불리며, 훈련 비용이 최소 1억 달러 이상 드는 '프론티어' AI 모델의 제작자를 대상으로 합니다. 

이 법안은 해당 개발자들이 안전 조치를 채택하고, 감사받으며, 그들의 모델이 큰 해를 끼치지 않을 것이라는 확신을 제공하도록 요구합니다. 또한 AI 근로자를 위한 고발 제도를 제공하고, 주 법무 장관이 심각한 해를 끼치거나 공공 위험을 초래하는 AI 모델을 생성한 기업에 대해 법적 조치를 취할 수 있도록 합니다.

입법자들은 업계의 우려를 해소하기 위해 법안을 수정했습니다

이 법안은 주 AI 인프라를 지원하기 위해 CalCompute 공공 클라우드 컴퓨팅 클러스터의 설립도 규정합니다. 마크 주커버그는 최근 메타의 차세대 Llama가 10배 더 많은 컴퓨팅 성능을 필요로 할 것이라고 밝혔으며, 이는 SB 1047의 관할 범위에 해당합니다. 

그러나 비판자들의 비판에 대응하기 위해 몇 가지 중요한 변경 사항이 이루어졌습니다. 특히, 형사 처벌 조항이 법안에서 제거되었고, 프론티어 모델 부서라는 새로운 규제 기관을 설립하는 조항도 삭제되었습니다.  

바이너 상원의원에 따르면, 그가 가장 좋아했던 법안의 요소는 혁신과 안전 사이의 균형이었습니다. 바이너는 보안과 혁신을 동시에 개선할 수 있다고 설명하며, 보안이 진전의 장벽이 되어서는 안 된다고 말했습니다. 

이 법안은 실리콘 밸리와 전체 기술 산업 내에서 많은 논쟁을 불러일으켰습니다. 기술 거대 기업들과 안나 에슈, 조이 로프그렌, 로 칸나를 포함한 실리콘 밸리 의회 의원들도 이 법안에 반대했습니다. 

법안이 다음 입법 단계로 진행됩니다

이들 의원은 주지사 개빈 뉴섬에게 보낸 서한에서 이 법안이 기술의 비교적 발생 가능성이 낮은 오용에 지나치게 집중하고 있다고 지적하며 거부권을 요청했습니다. 또한 이 법안이 허위 정보나 환경 영향, 실업과 같은 더 시급한 문제를 다루지 않는다고 덧붙였습니다. 

앤드레센 호로위츠의 수석 법무 책임자 자이쿠마르 라마스와미도 이러한 우려를 공유하며, 이 법안이 혁신을 해치고 기술 기업들을 캘리포니아에서 밀어낼 수 있다고 지적했습니다. 이 법안은 제프리 힌튼과 요슈아 벵지오와 같은 영향력 있는 AI 연구자들의 지지를 받았습니다.

SB 1047은 지출 위원회의 승인을 받았으며, 이제 8월 31일까지 통과되어야 하는 본회의로 이동합니다. 법안이 승인되면 주 상원으로 돌아가 세 번째이자 마지막 심의를 거친 후 주지사 사무실로 전달됩니다. 주지사는 이 글 작성 시점까지 이 법안에 대해 공개적으로 발언하지 않았습니다. 승인되더라도 SB 1047은 2026년까지 발효되지 않으며, 이는 FMD의 설립에 시간을 줍니다.