상원 법안은 첨단 AI의 안전을 약속이 아닌 법적 의무로 규정할 것입니다

로이터 통신 에 따르면, 미국 상원 협상단은 최첨단 AI 모델 개발자들이 치명적인 피해를 방지하기 위한 조치를 법적으로 의무화하고, 연방 정부가 안전하지 않은 모델 출시를 차단할 수 있는 권한을 부여하는 법안을 검토하고 있다 .

주요 AI 기업들에게 있어 이는 안전 기준을 대부분 자발적인 노력에서 법적 의무로 전환시키는 계기가 될 것입니다. 더 나아가, 엄격한 규제가 소비자 및 투자자의 신뢰를 높일 것인지, 아니면 단순히 규제 자금을 감당할 수 있는 소수의 기업들만을 강화할 것인지가 시장의 핵심적인 질문입니다.

자발적인 약속에서 "보호 의무"로

로이터 통신에 따르면, 이 제안은 첨단 AI 모델 개발자들에게 이른바 "주의 의무"를 부여하는 것을 목표로 합니다. 이를 위해 다양한 조항들이 검토 중입니다. 제안에는 개발자들이 재앙적 위험을 최소화하는 AI 모델을 설계하도록 하는 요건, 안전하지 않은 AI 모델을 차단할 수 있는 미국 정부의 권리, 정부 결정에 대한 법적 항소 절차, 그리고 AI 테스트에 국립 연구소와 정부 기관의 참여 등이 포함됩니다. 이 제안은 동일한 문제를 다루는 일부 주 정부의 기존 법률보다 우선 적용될 가능성이 있습니다.

로이터 통신에 따르면, 첨단 인공지능 개발에 참여하는 미국의 기술 기업으로는 구글(알파벳), 앤스로픽, 오픈AI 등이 있다.

이번 회담에는 존 툰 상원 다수당 원내대표, 테드 크루즈 상무위원회 위원장, 에이미 클로부샤 상원의원이 참여하고 있으며, 마리아 캔트웰 상원의원도 함께하고 있다.

클로부처는 로이터 통신과의 인터뷰에서 자신의 목표는 다음과 같다고 밝혔습니다

“인공지능 모델이 제기하는 가장 큰 위험에 대한 정부 감독”

그녀는 그러한 감독에는 개발자들이 정부 전문가와 협력하여 고급 모델을 검증하고 테스트하도록 요구하는 것이 포함되어야 한다고 말했다.

크루즈 의원은 첨단 AI의 최악의 가능성을 시사하는 유사한 제안을 내놓았습니다. X에 올린 글크루즈 의원은 클로버처 의원, 툰 의원과 협력하여 다음과 같은 일을 추진하고 있다고 밝혔습니다.

“생물학적 또는 핵 위협과 관련된 재앙적 위험에 대처한다”

이러한 우려 때문에 협상단은 인공지능 산업 전체에 동일한 조항을 요구하는 대신 가장 실용적인 모델에 노력을 집중하고 있는 것입니다.

또 다른 중요한 고려 사항은 연방 규정이 주 차원의 일부 제한 사항보다 우선해야 하는지 여부입니다. 이러한 접근 방식은 대체로 트럼프 행정부의 AI 관련 입법 체계, 트럼프 행정부는 주별로 제각각인 법률들이 미국의 AI 기술 개발 경험을 저해할 것이라고 주장하며 보다 일관된 국가적 틀을 마련할 것을 촉구했습니다.

왜 국회의원들은 더 이상 위험을 이론적인 문제로 취급하지 않게 된가?

입법자들은 이론적인 상황뿐만 아니라 인공지능 에이전트가 독자적으로 작동하여 외부 시스템에 침투하는dent, 그리고 주요 산업 기업에서 근무하는 연구원들이 제기하는 우려에도 대응하고 있습니다.

IAPP 는 이번 협상이 인류학 연구소의 전 연구원인 제이콥 콕슨의 사임과 그가 우려했던 자기 개선형 인공지능 경쟁에 대한 문제 제기에서 비롯되었다고 밝혔습니다.

워싱턴 D.C. 의회에서 요구가 거세지고 있습니다. 조쉬 홀리 상원의원은 지난 7월 발생한 '허깅 페이스' 사이버 공격에서 오픈AI의 역할을 조사하고 있으며, 버니 샌더스 상원의원은 초지능 개발을 일시 중단하는 법안을 추진하고 있다고 IAPP가 보도했습니다.

OpenAI는 또한 강제력 있는 연방 법률 제정을 지지합니다. 9월 9일에 발표된 정책 기사크리스 레한 최고 글로벌 담당 책임자는 다음과 같이 촉구했습니다.

"역량 기반의 국가 AI 안전 규제 의무화."

이로써 업계와 의회의 일부는 자발적 안전장치가 여전히 충분한지에 대한 중요한 질문에 대해 같은 입장을 취하게 되었습니다.

유럽은 이미 가장 위험한 모델들을 규제하고 있다

미국이 미지의 영역을 탐험하는 것은 아닙니다. 유럽 연합의 AI 법은 시스템적 위험 가능성이 있는 범용 AI 모델 제공업체에 새로운 책임을 부과했습니다. 이러한 책임에는 모델 평가, 위험 관리, 사고dent 는 물론 사이버 보안 관련 문제도 포함됩니다.

10^25 FLOP 이상의 연산 능력을 가진 모델은 잠재적으로 시스템적 위협으로 간주됩니다. 그러나 유럽 위원회는 기능이나 영향과 같은 다른 기준에 따라 성능이 낮은 모델이라도 유사하게 분류할 권리가 있습니다.

규정 준수 비용은 대형 연구소에 유리하게 작용할 수 있습니다

재정적 이해관계가 막대합니다. 골드만삭스 리서치 에 따르면 , 전 세계 AI 투자액은 2026년까지 약 1조 달러에 달할 것으로 예상되며, 이 중 미국은 5,810억 달러를 투자할 것으로 전망됩니다.

새로운 테스트, 법률 및 문서화 요건은 모델 출시 일정, 인프라 예산, 기업 가치 평가 및 IPO 시기에 영향을 미칠 수 있습니다. 또한 이러한 새로운 요건은 소규모 기업이 비용을 감당하기 어려울 수 있으므로 대기업에 유리하게 작용할 수도 있습니다.

이러한 긴장감은 이미 자본 시장에서 나타나고 있습니다. Cryptopolitan, 데이비드 색스는 콕슨이 제기한 안전성 관련 의혹이 검증될 때까지 앤트로픽(Anthropic)의 IPO를 중단할 것을 촉구했습니다. 앤트로픽 투자자들은 약 2조 달러에 달하는 기업 가치 평가를 놓고 논의를 벌였는데, 이로 인해 첨단 기술의 안전성 문제가 규제 당국뿐 아니라 투자자들에게도 우려 사항으로 떠올랐습니다.

하지만 법안의 진행 상황은 불확실합니다. 로이터 통신에 따르면 하원은 11월 3일 중간선거 준비로 인해 단 일주일만 회기를 갖는 반면, 상원은 3주간 회기를 가질 예정입니다. 관련 당사자들이 협상을 통해 합의에 도달하더라도, 남은 짧은 회기일은 법안 통과에 있어 큰 걸림돌이 될 가능성이 높습니다.