백악관, AI 모델 출시 전 심사 고려, 기술 감독의 새로운 영역 시험

백악관은 대중에게 공개되기 전에 가장 강력한 인공지능 시스템 중 일부를 검토하는 계획을 고려하고 있습니다.

이 제안은 5월 4일 뉴욕타임스에 의해 먼저 보도된 것으로, AI 수명 주기 중 배포 직전의 중요한 시점에 연방 감사를 도입할 것입니다. 관리자들은 최전방 모델들이 이제 필수 인프라를 지탱하는 소프트웨어의 약점을 식별하고 악용할 수 있다는 점에 점점 더 우려하고 있습니다.

더 컨버세이션이 언급한 분석에 따르면, 최근 AI 시스템이 운영체제 및 웹 브라우저에서 수많은 취약점을 발견할 수 있다는 증거가 늘어나고 있습니다. 이러한 능력은 방어적 보안에 유용하지만, 이러한 도구가 오용되거나 잘못된 손에 들어갈 경우 위험도가 높아집니다.

모델 능력, 정책 재고 촉진

이 정책 논의는 앤트로픽(Anthropic)이 최신 모델 미토스의 광범위한 출시를 지연시키면서 긴급성을 띠게 되었습니다. 내부 테스트는 수많은 악용 가능한 결함을 식별할 수 있는 고급 사이버 보안 기능을 포함하여 고급 사이버 보안 기능을 드러냈습니다. 이에 따라 회사는 "프로젝트 글래스윙(Project Glasswing)" 이니셔티브를 통해 핵심 인프라 책임이 있는 제한된 조직 그룹에 대한 접근을 제한했습니다.

더 컨버세이션에 따르면, 앤트로픽이 접근 확대를 모색했을 때 백악관이 개입했으며, 이는 광범위한 기술 정책이 비교적 시장 주도적임에도 불구하고 AI 감독에 대한 더 직접적인 접근 방식을 시사합니다.

우려 사항은 단일 회사나 시스템에 국한되지 않습니다. 영국 AI 안전 연구소(UK AI Safety Institute)는 4월 평가에서 오픈AI GPT-5.5가 고급 사이버 보안 작업에서 유사한 성능을 보였다고 보고했습니다.

연구소가 강조한 한 테스트에서, 모델은 사용자 정의 가상 머신을 역설계하고 전문 도구를 사용하는 인간 전문가보다 훨씬 빠르게 복잡한 과제를 해결했습니다.

"핵심 질문은 이것이 특정 모델에 국한된 돌파구인지, 아니면 더 넓은 트렌드의 일부인지였습니다." 연구소는 보고서에서 "GPT-5.5의 초기 체크포인트에서 얻은 결과는 후자를 시사합니다."라고 썼습니다.

이러한 발견들을 종합하면, 이러한 능력이 고립된 돌파구가 아니라 선도적인 AI 시스템의 일반적인 기능이 되고 있음을 시사합니다.

AI 보안 우려, 지정학적 차원 획득

이러한 함의는 기술을 넘어 국가 안보로 이어집니다. 더 컨버세이션이 인용한 연구원들은 국가 지원 그룹이 유사한 도구를 사용하여 사이버 작전을 수행할 잠재력이 있으며, 이는 잠재적으로 인프라나 경제 시스템을 표적으로 삼을 수 있다고 경고합니다.

이러한 변화의 초기 징후가 이미 나타나고 있습니다. 앤트로픽은 수십 개 조직에 영향을 미치는 스파이 활동에 국가 지원 행위자가 자신의 모델을 사용한 것으로 의심된다고 보고했습니다. 한편, 마이크로소프트와 오픈AI는 2024년에 정부 관련 그룹이 사이버 공격을 강화하기 위해 AI를 활용하고 있다고 밝혔습니다.

동시에 연구원들은 이러한 시스템을 신뢰성 있게 통제하는 방법을 여전히 고민하고 있습니다. 더 컨버세이션이 인용한 연구는 훈련 후 적용된 안전 필터가 우회될 수 있음을 시사하며, 일부 모델은 위험한 능력을 완전히 제거하지 않은 것처럼 준수하는 것처럼 보일 수 있습니다.

이로 인해 정책 입안자들 사이에서는 안전 조치가 모델 개발 중에 내장되어야 하며 나중에 추가되어서는 안 된다는 견해가 커지고 있습니다.

정책 전망: 단편화된 프레임워크, 증가하는 압력

미국의 제안은 여전히 진화하는 글로벌 규제 환경 내에서 구체화되고 있습니다.

• EU AI Act는 고위험 애플리케이션에 대한 엄격한 요구사항을 포함한 위험 기반 프레임워크를 설정하지만, 최전방 모델에 대한 중앙 집중식 승인을 의무화하지는 않습니다.
• 영국은 영국 AI 안전 연구소를 통해 자발적 협력을 선호하며, 개발자와의 테스트 및 평가 파트너십에 중점을 두고 있습니다.
• 새롭게 부상하는 미국의 접근 방식은 잠재적으로 출시 전 검토를 통해 가장 고급 시스템에 대한 직접적인 감독으로 이동하는 것으로 보입니다.

의원들은 AI 안전 및 거버넌스에 대한 4월 의회 청문회를 통해 이러한 문제를 더 면밀히 검토하기 시작했지만, 포괄적인 입법은 아직 진행되지 않았습니다.

구현될 경우, 미국의 출시 전 검토 시스템은 위험이 구체화되기 전에 예측될 수 있는 시점에서 감독을 배치함으로써 더早い 개입으로의 전환을 의미합니다.

이러한 조치는 특히 선도적인 AI 개발자가 미국에 집중되어 있다는 점을 고려할 때 비공식적인 글로벌 표준을 설정할 수 있습니다. 동시에 기업들이 개발 또는 배포의 일부를 규제가 덜한 지역으로 이전할 가능성도 제기됩니다.

정책 입안자의 과제는 능력이 빠르게 발전하고 오용의 결과가 광범위할 수 있는 분야에서 혁신과 위험 관리의 균형을 맞추는 것입니다.

현재 가장 구체적인 안전 장치는 자발적입니다. 앤트로픽과 같은 기업은 민감한 시스템에 대한 접근을 제한하는 반면, 영국 AI 안전 연구소와 같은 조직은 독립적인 평가를 계속 진행하고 있습니다.

미국이 자신의 접근 방식을 공식화할지, 그리고 다른 국가들이 이에 동조할지는 향후 수년간 AI가 어떻게 거버넌스될지 형성하는 데 중요한 요소가 될 것입니다.