뉴욕, 인공지능 오작동으로 인한 대규모 재난을 제한하는 법안 통과

뉴욕 주 의회는 인공지능으로 인한 재난을 제한하는 법안을 통과시켰습니다. 이 법안에 따르면, 뉴욕주는 오픈AI, 구글, 앤트로픽과 같은 기업들이 개발한 AI 모델이 재난 시나리오에 기여하는 것을 막고자 합니다.

에 따르면 법안, 이러한 시나리오에는 100명 이상의 사망이나 부상 또는 10억 달러 이상의 손해나 손실이 포함됩니다. RAISE 법안으로 알려진 이 법안은 AI 안전을 추진하는 운동에 큰 승리를 의미합니다. 실리콘 밸리와 트럼프 행정부가 속도와 혁신을 우선시하면서 이러한 운동은 최근 몇 년 동안 동력을 잃어왔습니다.

노벨상 수상자인 제프리 힌튼과 인공지능 연구의 선구자인 요슈아 벤지오를 비롯한 안전에 중점을 둔 옹호자들이 RAISE 법안을 지지하고 있습니다. 이 법안이 최종적으로 법으로 제정되면 미국 내 주요 인공지능 연구소에 대한 최초의 법적으로 의무화된 투명성 기준이 마련될 것입니다.

뉴욕주, AI로 인한 재난 제한을 위한 RAISE 법안 검토 중

RAISE 법안은 캘리포니아에서 논란이 되었던 AI 안전 법안 SB 1047과 일부 동일한 조항과 목표를 가지고 있으며, 이 법안은 결국 거부권 행사로 부결되었습니다.

하지만 RAISE 법안의 공동 발의자인 뉴욕주 상원의원 앤드류 구나르데스는 인터뷰에서 이 법안이 스타트업이나 학계 연구자들의 혁신을 저해하지 않도록 설계되었다고 언급했습니다. 이는 SB 1047 법안이 직면했던 일반적인 비판 중 하나였습니다. 구나르데스 상원의원은 "이 기술이 발전하는 속도를 고려할 때, 안전장치를 마련할 수 있는 시간은 급격히 줄어들고 있다"고 말했습니다.

상원의원은 또한 인공지능 분야에 정통한 대부분의 사람들이 이러한 위험성을 인식하고 있다는 점을 지적하며, 이를 "우려스러운 현상"이라고 표현했습니다. 한편, RAISE 법안은 현재 캐시 호철 뉴욕 주지사의 서명을 기다리고 있으며, 주지사는 법안에 서명하거나 수정안을 위해 되돌려 보낼 수 있습니다. 주지사가 법안에 거부권을 행사할 가능성도 있는데, 이는 유력한 시나리오입니다.

RAISE 법안이 최종적으로 법으로 제정되면, 세계 최대 규모의 AI 연구소들은 최첨단 AI 모델에 대한 안전 및 보안 보고서를 공개해야 합니다. 또한 이 법안은 AI 연구소들이 AI 모델 동작과 관련된 안전 사고나 악의적인 행위자가 AI 모델을 탈취하는dent이 발생할 경우 이를 보고하도록 의무화합니다.

기술 기업들이 이러한 기준을 충족하지 못할 경우, RAISE 법은 뉴욕주 법무장관에게 최대 3천만 달러의 민사 제재금을 부과할 수 있는 권한을 부여합니다.

RAISE 법안은 AI 연구소를 규제하는 것을 목표로 합니다

RAISE 법안은 오픈AI와 구글하기 위해 마련되었습니다. 이 법안에는 AI 모델 학습에 1억 달러 이상의 컴퓨팅 자원을 사용한 기업에 적용되는 의무 조항이 포함되어 있으며,dent뉴욕주 거주자도 이 법안을 확인할 수 있습니다.

RAISE 법안은 SB 1047과 몇 가지 면에서 유사하지만, 기존의 AI 안전 관련 법안에서 다루어졌던 몇 가지 사항들을 다루고 있습니다.

갖추도록 요구하지 않으며, 킬 스위치를 모델 학습 후 발생하는 심각한 피해에 대해 기업에 책임을 묻지도 않습니다. 그럼에도 불구하고, RAISE 법안의 공동 발의자인 뉴욕주 하원의원 알렉스 보레스에 따르면 뉴욕 법안에 대한 반발이 있었습니다. 그는 이러한 저항이 놀라운 일은 아니라고 말하면서도, RAISE 법안이 기술 기업의 개발 역량을 어떤 식으로든 제한하지는 않을 것이라고 덧붙였습니다.

앤드리슨 호로위츠의 총괄 파트너인 안제니 미드하는 금요일 X에 올린 글에서 "뉴욕 RAISE 법안은 적들이 빠르게 앞서나가는 시기에 미국에 해를 끼칠 뿐인 또 다른 멍청하고 어리석은 주 차원의 AI 법안"이라고 비판했다.

앤드리슨 호로위츠와 스타트업 인큐베이터인 Y 콤비네이터는 SB 1047 법안에 강력히 반대했습니다. 또한, 앤트로픽 공동 창립자인 잭 클라크는 RAISE 법안의 광범위한 적용 범위에 대해 불만을 표명하며, 이는 소규모 기업에 위험을 초래할 수 있다고 지적했습니다.