캘리포니아 테크 업계, 제안된 AI 법안에 반발

캘리포니아 기반 AI 기업들이 새로운 AI 법안에 반대하고 있습니다. 이 법안은 해당 분야에 더 엄격한 통제를 부과하고 혁신을 잠재적으로 위축시킬 수 있습니다. 제안된 법안은 기업들이 엄격한 안전 프레임워크를 준수하도록 요구합니다. 여기에는 분야 통제 경쟁이 격화됨에 따라 강력한 AI 모델을 종료하기 위한 “킬 스위치” 생성이 포함됩니다.  

 또한 읽기: 기만적인 AI의 위협 대응: 연구자들의 긴급 경고

법안 하에 제안된 일부 조치는 메타와 같은 기술 기업에 부정적인 영향을 미칠 수 있으며, 오픈AI, 앤트로픽, 코히어와 같은 AI 스타트업 기업들에게도 제한을 생성할 것입니다.

주 상원은 지난달 이 법안을 통과시켰으며, 올해 8월 주 일반 의회(General Assembly)의 표결을 앞두고 있습니다.

캘리포니아 법안은 오픈소스 AI 모델을 위협합니다

아스텍니카(arstechnica)에 따르면 대형 기술 기업들은 핵무기나 사이버 보안 공격을 지원하는 등 사회에 해로운 모델을 절대 생성하지 않을 것을 보장해야 합니다.

그러나 제안된 법안은 해당 분야의 일부 이해관계자들로부터 역풍을 맞고 있습니다. 이들은 이것이 스타트업에 연쇄적인 영향을 미쳐 주를 떠나야 할 수도 있다고 주장합니다. 또한 메타와 같은 대형 기업들이 자신의 모델을 오픈소스로 공개하는 것을 방지할 수 있습니다.

“혁신을 위축시키려는 규제를 만들고자 한다면 이보다 더 좋은 방법은 없을 것입니다.”라고 앤드루 응(Andrew NG)은 말했습니다. 그는 구글과 중국 바이두에서 AI 프로젝트를 이끌었으며 아마존 이사회에 속해 있는 컴퓨터 과학자입니다.

“이는 SF적인 위험에 대한 막대한 책임을 생성하며, 혁신을 시도하는 모든 이들에게 두려움을 고취시킵니다.”

메타(Meta)의 생성형 AI 수석 제품 관리자 아룬 라오(Arun Rao)는 “실행 불가능한” 이 법안이 “캘리포니아에서 오픈소스를 끝낼 것”이라고 말했습니다.

워너 상원의원에 따르면 시위는 예상되었습니다

법안을 도입한 민주당 주 상원의원 스콧 워너(Scott Wiener)는 비판을 가볍게 여겼습니다. 과도하게 제한적이라는 비판에 직면했지만, 이 입법자는 시위가 테크 업계에서 나온 것으로 전혀 새로운 것이 아니라고 나타냈습니다.

“이것은 테크 업계입니다. 그들은 어떤 규제도 좋아하지 않으므로 반발이 있을 것이라는 점은 저에게 전혀 놀라운 일이 아닙니다.”

스콧 워너 상원의원.

“본질적으로 저는 AI가 성공하고 혁신이 계속되기를 원하지만, 안전 위험을 미리 예방해보자”고 말했습니다.

샌프란시스코 기반 비영리 단체 AI 안전 센터(Center for AI Safety, CAIS)는 단 헨드리크스(Dan Hendrycks)가 주도하며 캘리포니아 주 법안에 공동 후원했습니다.

또한 읽기: ‘AI의 아버지’, AI로 인한 실직에 대한 보편적 기본소득 요구

헨드리크스는 이 법안을 지지하며, 사람들이 “일부 기본 감독”을 원하는 시점에 비용을 절감하는 등 해당 분야의 문제 중 하나를 해결하는 데 도움이 될 수 있다고 말했습니다.

“이러한 경쟁 압력은 AI 조직들이 안전성을 저버리도록 인센티브를 부여하고 있습니다.”

AI 산업은 급속한 성장을 경험했으며, 이는 기술의 안전성에 대한 우려도 높였습니다. 작년, 테크 억만장자 일론 머스크는 AI를 “인류에 대한 위협”이라고 불렀습니다.

Enacy Mapakame 가 Cryptopolitan 에서 보도