캘리포니아의 새로운 AI 안전법은 감독과 혁신이 공존할 수 있음을 보여줍니다

캘리포니아주는 인공지능(AI) 관련 상원 법안 53호(SB 53)를 통과시켰고, 지난주 개빈 뉴섬 주지사가 이 법안에 서명하여 법률로 제정되었습니다. 이 법안은 연간 5억 달러 이상의 수익을 올리는 대형 AI 기업들이 안전 및 보안 프로토콜을 공개하도록 의무화하는 미국 최초의 법적 프레임워크입니다. 

청년 주도 옹호 단체인 Encode AI의 공공 정책dent 아담 빌렌은 최근 테크크런치와의 팟캐스트 인터뷰에서 SB 53 법안이 정부 규제가 기술 발전을 어떻게 보완할 수 있는지 보여준다고 말했습니다.

이 법률은 해당 기업들이 사이버 공격이나 생화학 무기 제조와 같은 재앙적인 방식으로 시스템이 오용되는 것을 어떻게 방지하는지 구체적으로 설명하도록 의무화하고 있습니다.

'규제와 혁신은 반드시 충돌할 필요는 없다'

빌렌은 에퀴티 팟캐스트 에서 "정책 입안자들은 우리가 행동해야 한다는 것을 알고 있다" 며 "혁신을 진정으로 보호하면서 이러한 제품의 안전성을 보장하는 법안을 통과시킬 방법이 있다"고 말했다

빌렌은 법안의 요구 사항 중 상당 부분이 모델 테스트 및 투명성 보고서와 같이 주요 AI 기업들이 이미 따르고 있는 관행이라고 주장했습니다. 그러나 그는 경쟁 압력으로 인해 일부 기업들이 안전 프로토콜을 완화했으며, 새 법은 이러한 문제를 해결하고자 한다고 지적했습니다.

그는 "기업들은 이미 이 법안에서 요구하는 사항들을 이행하고 있다"며 "일부 분야에서 소홀히 하기 시작한 것은 사실이다. 바로 그렇기 때문에 이러한 법안이 중요한 것이다"라고 말했다

법안 통과 전에 뉴섬 주지사에게 보낸 서한에서 볼 수 있듯이, 오픈AI는 당시 제안된 법안에 반대하며 AI 규제는 개별 주 정부가 아닌 연방 정부의 관할에 속해야 한다고 주장했습니다. 

벤처캐피털 회사인 안드레센 호로위츠는 오픈AI의 주장을 더욱 강화하며 , 블로그 게시물을 통해 특정 주 차원의 AI 관련 법률이 주 정부가 주간 상거래를 방해하는 것을 제한하는 미국 헌법의 휴면 상거래 조항을 위반할 수 있다고 지적했습니다.

빌렌은 그러한 반론을 일축하며, 주법이 혁신이나 경쟁력을 위협한다는 주장은 과장되었다고 말했다. 

"SB 53 같은 법안이 우리가 중국을 이기는 것을 막을 건가요? 아닙니다. 그런 법안이 미국의 발전을 저해할 거라고 말하는 건 지적으로 정직하지 못한 겁니다."

연방 정부와 주 정부 간의 AI 규제 권력 다툼

빌렌이 소속된 단체인 Encode AI는 이전에 200개 이상의 단체로 구성된 연합을 이끌고 주 정부가 자체적인 AI 규정을 제정하는 것을 막는 연방 정부의 우선권 행사 제안에 반대했습니다.

빌렌에 따르면, 미국 상원의원 테드 크루즈는 인공지능 감독에 있어 주 정부의 자율성을 약화시키려는 정책 입안자 중 한 명입니다. 크루즈 의원은 9월 10일 인공지능 기업들이 최대 10년 동안 특정 연방 규정을 일시적으로 면제받을 수 있도록 하는 내용의 '샌드박스 법안'을 발의했습니다

Encode AI의 부사장은 균형 잡힌 것처럼 보이지만 실제로는 주 차원의 법률을 무효화할 수 있는 연방 AI 프레임워크 제안이 곧 나올 것으로 예상했습니다. 그는 이러한 법안이 디지털 시대의 미국에서 연방주의를 훼손하고, 기업들이 잘못을 저질러도 그에 따른 책임을 지지 않는 무책임한 사회에 정부를 노출시킬 수 있다고 경고했습니다.

안전, 연방제, 그리고 중국과의 경쟁

빌렌은 미중 경쟁이 실재하는 것은 맞지만, 주 차원의 AI 규제 노력을 막을 만큼 심각한 것은 아니라고 인정했습니다. 그는 의원들이 연방 차원의 수출 통제에 집중하고 미국 AI 기업들이 세계 경쟁에 필요한 컴퓨팅 칩에 접근할 수 있도록 지원해야 한다고 말했습니다

그는 이어 "만약 인공지능 경쟁에서 중국을 이기는 것이 중요하다면, 그리고 저도 그 점에 관심이 많습니다만, 수출 통제와 미국 기업들이 필요한 칩을 확보할 수 있도록 지원하는 데 힘써야 할 것입니다. 하지만 업계가 요구하는 것은 그런 것이 아닙니다."라고 말했습니다

빌렌에 따르면, SB 53은 민주주의가 실제로 작동하는 좋은 사례이며, 정부와 산업계가 협력하여 비록 완벽하지는 않더라도 양측 모두가 수용할 수 있는 법을 만들어낸 결과물입니다.

"매우 추하고 혼란스럽습니다. 하지만 민주주의와 연방주의라는 과정이야말로 우리 나라와 경제 시스템의 근간입니다. SB 53은 이러한 기반이 여전히 작동할 수 있다는 가장 확실한 증거 중 하나라고 생각합니다."라고 그는 결론지었다.