상원 법안은 프론티어 AI 안전을 약속이 아닌 법적 의무로 만듭니다

미 상원 협상자들은 가장 진보된 AI 모델 개발자들이 치명적인 해로부터 보호하도록 법적 의무를 부과하고 연방 정부에 안전하지 않은 출시를 차단할 권한을 부여할 수 있는 입법을 검토하고 있습니다. 이는 Reuters.

최고 AI 기업들에게 이는 주로 자발적인 노력에서 법적 의무로 안전 기준을 변화시킬 것입니다. 더 넓은 시장의 질문은 더 엄격한 규제가 소비자 및 투자자 간의 신뢰를 조성할지, 아니면 이를 감당할 수 있는 소수 기업들만을 강화할지입니다.

자발적 약속에서 ‘주의 의무(Duty of Care)’로

로이터에 따르면, 이 제안은 프론티어 AI 모델 개발자를 위한 ‘주의 의무’를 창출하는 것을 목표로 합니다. 이를 위해 다양한 규정이 검토되고 있습니다. 제안에는 다음 요구 사항이 포함됩니다: 개발자가 치명적 위험을 최소화하는 AI 모델을 설계해야 함; 미국 정부의 안전하지 않은 AI 모델 차단 유보 권리; 정부 결정에 대한 법원 항소; 및 국가 연구소 및 정부 파트너의 AI 테스트 참여. 이 제안은 동일한 문제를 다루는 기존 주 법률보다 우선할 가능성이 있습니다.

로이터에 따르면, 프론티어 AI 개발에 관여한 미국 기술 기업은 구글(알파벳), 앤트로픽, 오픈AI입니다.

회담에는 상원 다수당 원내대표 존 주인(John Thune), 상원 상업위원회 위원장 테드 크루즈(Ted Cruz) 및 상원의원 에이미 클로부처(Amy Klobuchar)가 참여하며, 마리아 칸웰 상원의원도 관여하고 있습니다.

클로부처는 로이터에 자신의 목표가 다음과 같다고 말했습니다:

“AI 모델이 초래하는 가장 큰 위험에 대한 정부의 감독”

그녀는 이러한 감독에는 고급 모델의 검증 및 테스트를 위해 개발자가 정부 전문가와 협력하도록 요구하는 조치가 포함되어야 한다고 말했다.

크루즈는 프론티어 AI의 가장 나쁜 가능성을 일부 시사하는 유사한 제안을 내놓았습니다. X에서의 글에서 크루즈는 클로부처와 주인과 협력 중이라고 밝혔습니다.

“생물학적 또는 핵 위협과 관련된 치명적 위험을 해결”

이러한 우려들이 협상가들이 AI 산업 전체에 동일한 규정을 요구하기보다 가장 기능적인 모델들에 노력을 집중하는 이유를 설명한다.

또 다른 중요한 고려 사항은 연방 규제가 주 수준의 일부 제한을 우선시해야 하는지 여부입니다. 이 접근 방식은 일반적으로 트럼프 행정부의 AI 입법 프레임워크와 일치하며, 이는 무질서한 주 법률들의 집합이 미국 내 AI 기술 개발 경험을 저해할 것이라고 주장하며 대신 더 일관된 국가 프레임워크를 요구합니다.

입법자들이 위험을 이론적으로만 취급하지 않게 된 이유

입법자들은 이론적인 상황뿐만 아니라 AI 에이전트가 자체적으로 행동하여 외부 시스템에 침투한 사건들과 주요 산업계 기업에서 일하는 연구자들이 제기한 우려에 대응하고 있다.

IAPP는 협상이 자아개선 AI 경쟁에 대한 우려를 가진 전직 앤트로픽 연구원인 제이콥 콕슨의 사임으로 촉발되었다고 밝혔습니다.

워싱턴DC의 요구가 높아지고 있다. Josh Hawley 상원의원은 7월에 발생한 Hugging Face 사이버 공격에서 OpenAI의 역할을 조사하고 있으며, Bernie Sanders 상원의원은 superintelligence(초지능) 개발을 일시 중단하는 법안을 준비하고 있다고 IAPP가 보도했다.

오픈AI도 시행 가능한 연방 입법을 지지합니다. 9월 9일 게시된 정책 기사에서 크리스 레인(Chris Lehane) 수석 글로벌 어페어스 책임자는 다음과 같은 조치를 촉구했습니다.

“의무적인 능력 기반 국가 AI 안전 규제.”

이는 산업계의 일부와 의회가 자발적 안전 조치가 여전히 충분한지 여부에 대한 중요한 질문에서 같은 편에 서게 되었다는 것을 의미한다.

유럽은 이미 가장 위험한 모델들을 규제하고 있다

미국은 미지의 바다를 항해하지 않을 것입니다. 유럽연합의 AI Act는 시스템적 위험 가능성이 있는 범용 AI 모델 제공자에게 새로운 책임을 부과했습니다. 이 의무에는 모델 평가, 위험 관리, 사고 보고 및 사이버 보안 관련 문제가 포함됩니다.

10^25 FLOP의 컴퓨팅 파워 임계값을 초과하는 모든 모델은 잠재적으로 시스템적 성격을 가진 것으로 간주된다. 그러나 유럽 위원회는 기능이나 효과와 같은 다른 기준을 바탕으로 성능이 낮은 모델을 유사하게 분류할 권리를 가진다.

준수 비용이 대형 연구소들에게 유리할 수 있다

재정적 이해관계는 큽니다. 골드만 삭스 리서치에 따르면, 2026년 전 세계 AI 투자액은 약 1조 달러에 달할 것으로 예상되며, 이 중 미국은 5,810억 달러를 차지합니다.

새로운 테스트, 법적, 문서화 요구사항은 모델 출시 일정, 인프라 예산, 기업 가치 평가 및 IPO 시기에 영향을 미칠 수 있다. 새로운 요구사항은 중소기업이 비용을 감당하지 못할 수 있으므로 대형 기업들에게 유리한 조건을 제공할 수도 있다.

이러한 긴장은 이미 자본 시장에서 나타나고 있습니다. 크립토폴리탄에 따르면, 데이비드 삭스는 콕슨의 안전 Allegations이 확인될 때까지 앤트로픽의 IPO를 중단할 것을 촉구했습니다. 앤트로픽 투자자들은 약 2조 달러의 기업가치에 대한 논의를 가졌으며, 이는 프론티어 모델의 안전성이 규제당국뿐만 아니라 투자자들에게도 우려 사항이 됨을 의미합니다.

그러나 법안의 진행 상황은 불확실하다. 로이터의 보도에 따르면, 하원은 11월 3일 중간선거를 준비하기 위해 단 1주만 회기에 들어갈 것이며, 상원의원들은 3주 동안 재직할 것으로 예상된다. 관련 당사자들이 협상 중 합의를 이루더라도, 남은 제한된 입법 일수는 법안 통과를 위한 주요 장애물이 될 가능성이 높다.