- 뉴욕은 오픈AI, 구글, 앤스로픽과 같은 AI 연구소가 재앙 시나리오에 기여하지 못하도록 제한하는 법안을 통과시켰습니다.
- 이 법안은 최종 결정권을 가진 뉴욕 주지사를 거쳐야 합니다.
- AI 연구소들은 이 법안에 대해 불만을 표명하며, 이는 중소 규모 기업에 위험을 초래할 수 있다고 지적했습니다.
뉴욕의 의원들은 인공지능으로 인한 재난을 제한하기 위한 법안을 통과시켰다. 법안에 따르면, 주 정부는 OpenAI, Google, Anthropic과 같은 기업들이 만든 AI 모델이 재난 시나리오에 기여하는 것을 방지하고자 한다.
법안에 따르면, 이러한 시나리오에는 100명 이상의 사망 또는 부상 또는 10억 달러 이상의 손해 또는 손실이 포함된다. RAISE Act로 알려진 이 법안은 AI 안전을 촉구하는 운동들의 승리를 의미한다. 지난 몇 년 동안 실리콘밸리와 트럼프 행정부가 속도와 혁신을 우선시해 온 동안 운동의 기세는 꺾였다.
노벨상 수상자 제프리 힌튼과 AI 연구 개척자 요슈아 벤지오를 포함한 안전에 중점을 둔 활동가들이 RAISE Act를 주도한다. 만약 최종적으로 법으로 서명된다면, 이 법안은 미국 내 선도적인 인공지능 연구소들을 위한 첫 번째 법적 투명성 기준을 수립할 것이다.
뉴욕, AI 유발 재난을 제한하기 위한 RAISE Act 검토
RAISE Act는 결국 거부된 캘리포니아의 논란이 된 AI 안전 법안 SB 1047과 일부 동일한 조항과 목표를 가지고 있다.
그러나 RAISE Act의 공동 발의자이자 뉴욕 주 상원의원인 앤드류 구나르데스(Andrew Gounardes)는 인터뷰에서 이 법안이 스타트업이나 학술 연구자들의 혁신을 억누르지 않도록 설계했다고 언급했다. 이는 SB 1047이 직면했던 일반적인 비판이다. “이 기술이 빠르게 진화함에 따라 안전 장치를 마련할 수 있는 창은 빠르게 좁아지고 있습니다.”라고 구나르데스 상원의원은 말했다.
상원의원은 또한 AI 부문에 정통한 대부분의 사람들이 이러한 위험을 인식하게 되었다고 말했으며, 이를 ‘경외할 만한(alarming)’ 발전이라고 불렀다. 한편, RAISE Act는 이제 뉴욕 주지사 캐시 호쿨(Kathy Hochul)의 책상으로 넘어갔으며, 그녀는 이를 법으로 서명하거나 수정을 위해 되돌릴 수 있다. 또 다른 옵션은 법안에 거부권을 행사하는 것으로, 이는 가능성이 높다.
만약 최종적으로 법으로 서명된다면, RAISE Act는 세계 최대의 AI 연구소 중 일부가 프론티어 AI 모델에 대한 안전 및 보안 보고서를 게시하도록 요구할 것이다. 이 법안은 또한 AI 모델 행동이나 악의적 행위자가 AI 모델을 훔치는 것과 관련된 안전 사고가 발생하면 AI 연구소들이 보고하도록 의무화한다.
기술 기업들이 이러한 기준을 충족하지 못할 경우, RAISE Act는 뉴욕 주 검찰총인에게 최대 3,000만 달러의 민사 벌금을 부과할 수 있는 권한을 부여한다.
RAISE Act, AI 연구소 규제 모색
RAISE Act는 캘리포니아에 기반을 둔 OpenAI와 구글, 그리고 중국에 기반을 둔 DeepSeek와 알리바바를 포함한 전 세계 최대 AI 기업들을 규제하도록 설계되었다. 이 법안의 요구사항에는 AI 모델 학습에 1억 달러 이상의 컴퓨팅 리소스를 사용한 기업들에게 적용되는 의무 조항이 포함되며, 이는 뉴욕 주민들에게도 적용된다.
SB 1047과 일부 유사하지만, RAISE Act는 이전의 일부 AI 안전 법안들을 다루고 있다.
예를 들어, 어떤 조항도 AI 모델 개발자에게 킬 스위치를 모델에 탑재하도록 요구하지 않으며, 사후 학습(post-train)을 수행한 기업들이 중대한 피해에 대해 책임지도록 하지 않는다. 그럼에도 불구하고 RAISE Act의 공동 발의자이자 뉴욕 주 의회 의원인 알렉스 보레스(Alex Bores)에 따르면 뉴욕의 법안에 대한 반발이 있었다. 그는 이 저항을 예상 가능한 것이었지만, RAISE Act가 기술 회사의 개발 역량을 어떤 식으로든 제한하지 않을 것이라고 덧붙였다.
“NY RAISE Act는 적대국들이 앞서가는 시기에 미국에만 해를 끼칠 또 다른 멍청한 멍청한 주 차원의 AI 법안입니다.”라고 안드레센 호로위츠(Andreessen Horowitz)의 일반 파트너인 안지니 미드하(Anjney Midha)는 금요일 X 게시글에서 말했다.
안드레센 호로위츠와 스타트업 인큐베이터인 Y Combinator는 SB 1047에 강력히 반대했다. 또한, 앤트로픽의 공동 창립자 잭 클라크(Jack Clark)도 RAISE Act의 광범위함에 대한 불만을 공유했으며, 이는 소규모 기업들에게 위험을 초래할 수 있다고 지적했다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
오와투운세 아데바요
아데바요(Adebayo)는 암호화폐 분야에서 4년간의 경력을 가진 작가입니다. 그는 라고스 대학교에서 도시 및 지역 계획을 전공하고 졸업했으며, 토큰헬(Tokenhell)과 크립토티커(CryptoTicker)에서 암호화폐 및 핀테크 뉴스를 작성했습니다. 현재 그는 크립토폴리탄(Cryptopolitan)의 뉴스 기여자입니다.
