백악관, AI 모델 사전 검증 검토…기술 감독의 새로운 영역 시험

백악관은 가장 강력한 인공지능 시스템들을 대중에게 공개하기 전에 검토하는 방안을 검토하고 있다.

이 제안은 보도한 가 뉴욕 타임스 인공지능(AI) 개발 과정의 중요한 시점, 즉 배포 직전에 연방 정부의 감시를 도입하는 것을 골자로 합니다. 관계자들은 최첨단 AI 모델들이dent필수 인프라를 뒷받침하는 소프트웨어의 취약점을 식별하고 악용할

에 발표된 분석 The Conversation) 따르면 최근 인공지능 시스템이 운영체제와 웹 브라우저에서 수많은 취약점을 발견할 수 있다는 증거가 늘어나고 있습니다. 이러한 기능은 보안 방어 측면에서 유용하지만, 오용되거나 악의적인 사용자의 손에 넘어갈 경우 위험성을 더욱 높입니다.

모델 역량은 정책 재고를 촉발합니다

의 광범위한 출시를 연기하기로 결정하면서 정책 논의는 더욱 시급해졌습니다 미토스(Mythos)할 수 있는 것으로 드러났습니다dent. 이에 대응하여 앤트로픽은 "프로젝트 글래스윙(Project Glasswing)"이라는 이니셔티브를 통해 중요 인프라를 담당하는 소수의 조직으로 접근을 제한했습니다.

에 따르면 더 컨버세이션(The Conversation)백악관은 앤트로픽이 접근성 확대를 모색했을 때 개입했는데, 이는 전반적인 기술 정책이 비교적 시장 주도적인 입장을 유지하는 와중에도 AI 감독에 있어 보다 적극적인 접근 방식을 취하겠다는 신호였다.

우려는 특정 기업이나 시스템에만 국한되지 않습니다. 영국 AI 안전 연구소는 보고했습니다 4월 평가에서 OpenAI의 GPT-5.5가 고급 사이버 보안 작업에서 기존과 유사한 성능을 보였다고

연구소에서 강조한 한 테스트에서, 해당 모델은 맞춤형 가상 머신을 역설계하고 복잡한 문제를 단 몇 분 만에 해결했는데, 이는 전문 도구를 사용하는 인간 전문가보다 훨씬 빠른 속도였습니다.

연구소는 보고서에서 "핵심 질문은 이것이 특정 모델에만 해당되는 획기적인 발전인지, 아니면 더 광범위한 추세의 일부인지 여부였다"며 "GPT-5.5의 초기 검증 결과는 후자를 시사한다"고 밝혔다

이러한 연구 결과들을 종합해 보면, 이러한 기능들은 단지 개별적인 돌파구가 아니라 선도적인 AI 시스템에서 공통적으로 나타나는 특징이 되고 있음을 알 수 있습니다.

인공지능 보안 문제는 지정학적 차원으로 확대되고 있다

이러한 문제의 파급 효과는 기술적인 측면을 넘어 국가 안보에까지 미칩니다. 더 컨버세이션(The Conversation) 국가와 연계된 단체들이 유사한 도구를 사용하여 사이버 작전을 수행하고, 잠재적으로 사회 기반 시설이나 경제 시스템을 표적으로 삼을 수 있다고 경고합니다.

이러한 변화의 초기 징후가 이미 나타나고 있습니다. 앤트로픽은 국가 지원을 받는 것으로 의심되는 해커들이 자사 모델을 이용해 수십 개의 조직에 영향을 미치는 스파이 활동을 벌이고 있다고 보고했습니다. 한편, 마이크로소프트와 오픈AI는 2024년에 정부 관련 단체들이 AI를 활용하여 사이버 공격을 강화하고 있다고 밝혔습니다.

동시에 연구자들은 이러한 시스템을 안정적으로 제어하는 ​​방법에 대해 여전히 고심하고 있습니다. The Conversation 훈련 후 적용되는 안전 필터를 우회할 수 있으며, 일부 모델은 위험한 기능을 완전히 제거하지 않고도 규정을 준수하는 것처럼 보일 수 있습니다.

이로 인해 정책 입안자들 사이에서는 안전 조치를 나중에 추가하는 것이 아니라 모델 개발 단계에서부터 포함시켜야 한다는 인식이 점차 확산되고 있습니다.

정책 전망: 파편화된 체계, 증가하는 압력

미국의 제안은 더욱 광범위하고 여전히 진화하고 있는 글로벌 규제 환경 속에서 구체화되고 있습니다

• EU 인공지능법은 위험 기반 프레임워크를 제시하며 고위험 애플리케이션에 대해 엄격한 요건을 요구하지만, 최첨단 모델에 대한 중앙 집중식 승인을 의무화하지는 않습니다.
• 영국은 영국 인공지능 안전 연구소를 통해 자발적인 협력에 의존해 왔으며, 개발자들과의 테스트 및 평가 파트너십에 중점을 두었습니다.
• 최근 미국의 접근 방식은 최첨단 시스템에 대한 직접적인 감독, 특히 출시 전 검토를 통한 감독으로 향하는 것으로 보인다.

의원들은 인공지능 안전 및 거버넌스에 대한 의회 청문회를 4월에 개최하는 등 이러한 문제들을 더욱 면밀히 검토하기 시작했지만, 아직까지 포괄적인 법안은 진전되지 않았습니다.

미국에서 사전 석방 검토 시스템이 시행된다면, 이는 위험이 현실화된 후가 아니라 위험을 예측할 수 있는 시점에 감독이 이루어지도록 하여 조기 개입으로의 전환을 의미할 것입니다.

이러한 움직임은 특히 미국에 주요 AI 개발자들이 집중되어 있다는 점을 고려할 때, 비공식적인 글로벌 표준을 정립할 수 있을 것입니다. 동시에, 이는 기업들이 개발이나 배포의 일부를 규제가 덜한 지역으로 이전할 가능성을 제기합니다.

정책 입안자들이 직면한 과제는 역량이 빠르게 발전하고 오용의 결과가 광범위할 수 있는 분야에서 혁신과 위험 관리 사이의 균형을 맞추는 것입니다.

현재로서는 가장 구체적인 안전장치는 자발적인 참여에 기반하고 있습니다. 앤트로픽(Anthropic)과 같은 기업들은 민감한 시스템에 대한 접근을 제한하고 있으며, 영국 AI 안전 연구소(UK AI Safety Institute)와 같은 기관들은dent 평가를 지속적으로 수행하고 있습니다.

미국이 인공지능에 대한 접근 방식을 공식화할지, 그리고 다른 국가들이 이에 동조할지 여부는 향후 인공지능 규제 방향을 결정하는 핵심 요소가 될 것입니다.