- OpenAI 는 차기 AI 모델이 '높은' 수준의 사이버보안 위험을 초래할 수 있으며, 제로데이 익스플로잇을 생성하거나 중요한 시스템에 정교한 공격을 가하는 데 악용될 수 있다고 경고합니다.
- 보안 과제를 해결하는 성능이 단 3 개월 만에 27% 에서 76% 로 급증하며 빠른 역량 향상을 입증했습니다.
- 동사는 보안 팀을 위한 신뢰할 수 있는 액세스, Aardvark 취약점 스캐너, 그리고 새로운 Frontier 위험 이사회를 포함한 방어 프로그램을 시작합니다.
ChatGPT 를 개발한 회사는 수요일 차세대 인공지능 시스템에 잠재된 위험에 대해 강력한 경고를 발표하며, 이러한 시스템이 심각한 사이버 보안 위협을 초래할 수 있다고 밝혔습니다.
OpenAI 는 향후 AI 모델이 강력하게 보호된 컴퓨터 시스템을 대상으로 기능적인 제로데이 익스플로잇을 생성할 능력을 가질 수 있다고 밝혔습니다. 해당 기술은 실제 피해를 입힐 수 있도록 설계된 기업이나 산업 시설에 대한 정교한 공격 수행에도 활용될 수 있습니다.
상황이 빠르게 전개되고 있습니다. 블로그에서 OpenAI 는 2025 년 8 월 GPT-5 에서 27%였던 플래그 획득 보안 과제 수행 성능이 불과 3 개월 후인 2025 년 11 월 GPT-5.1-Codex-Max 에서 76%로 급증했다고 밝혔습니다.
OpenAI 는 이제 구축하는 모든 신규 모델이 '높은' 수준의 사이버 보안 능력을 갖출 것으로 가정하고 있습니다. 이는 잘 보호된 네트워크의 알려지지 않은 취약점에 대한 작동 가능한 익스플로잇을 생성하거나, 핵심 인프라를 표적으로 한 복잡한 침입 캠페인을 지원하는 시스템을 의미합니다.
마이크로소프트의 지원을 받는 이 회사는 방어적 보안 작업을 위한 모델 고도화에 투자하고 있습니다. 보안 팀이 코드 문제를 확인하고 보안 허점을 수정할 수 있도록 도구를 개발 중입니다. OpenAI는 주로 인력과 자원이 부족한 방어팀에 우위를 제공하고자 합니다.
여기서 문제가 복잡해집니다. 방어와 공격을 위한 사이버보안 작업은 동일한 기본 지식과 방법을 사용합니다. 방어자에게 도움이 되는 것이 공격자에게도 쉽게 활용될 수 있다는 뜻입니다. OpenAI는 단일 보호 조치에만 의존할 수 없다고 말합니다. 여러 보안 통제가 함께 작동하는 다층적 보안이 필요합니다.
회사는 접근 제한, 강력한 인프라 보안, 정보 흐름 통제 및 지속적인 모니터링을 사용하고 있습니다. 또한 사이버 공격을 가능하게 할 수 있는 요청을 거부하도록 모델을 훈련시키면서 정당한 보안 작업 및 교육에는 유용하게 유지하고 있습니다.
감지 시스템은 고급 모델을 사용하여 제품 전반의 의심스러운 활동을 감시합니다. 위험한 것으로 간주되면 시스템은 결과를 차단하거나 약한 모델로 전환하거나 인간 검토를 위해 플래그를 지정합니다.
한계 테스트
OpenAI는 모든 방어 체계를 뚫어보려는 전문 보안 테스트 그룹과 협력합니다. 이들은 상당한 자원을 보유한 결정적인 공격자가 어떻게 행동할지 시뮬레이션하여, 실제 위협이 발생하기 전에 취약점을 사전에 발견하는 데 도움을 줍니다.
AI 로 인한 사이버보안 위험은 업계 전반의 우려를 자아내고 있습니다. 앞서 Cryptopolitan이 보도한 바와 같이 해커들은 이미 공격을 고도화하기 위해 AI 기술을 활용하고 있습니다.
동사는 사이버 보안 방어를 위해 활동하는 자격을 갖춘 사용자에게 최신 모델의 향상된 기능에 대한 특별 접근 권한을 제공하는 프로그램을 계획하고 있습니다. OpenAI 는 아직 어떤 기능을 광범위하게 제공할 수 있고, 어떤 기능이 더 엄격한 제한이 필요한지 구체화 중입니다.
또 다른 사례로 Aardvark 가 있습니다. 이 보안 도구는 현재 사내 테스트 중으로, 개발자와 보안 팀이 대규모로 취약점을 발견하고 수정할 수 있도록 지원합니다. 코드를 스캔하여 약점을 찾아내고 수정 방안을 제시하며, 이미 오픈소스 소프트웨어에서 새로운 취약점을 다수 발견했습니다. OpenAI 는 광범위한 보안 생태계 강화를 위해 상당한 자원을 투입할 계획입니다. 여기에는 일부 비영리 오픈소스 프로젝트에 대한 무료 지원 제공도 포함됩니다.
OpenAI 는 '프론티어 리스크 이사회(Frontier Risk Council)'를 설립합니다. 이는 숙련된 사이버 보안 전문가와 실무자들을 한자리에 모은 것입니다. 이 그룹은 사이버 보안으로 시작해 점차 다른 분야로 확대될 예정입니다. 이사회 구성원들은 유용한 기능과 잠재적 오용 사이의 경계를 설정하는 데 기여합니다.
보안은 여전히 과제로 남아있습니다
동사는 프론티어 모델 포럼( Frontier Model Forum) 을 통해 다른 주요 AI 기업들과 협력하고 있습니다. 이 비영리 단체는 위협에 대한 공유된 이해와 모범 사례를 개발합니다. OpenAI 는 고급 AI 로 인한 보안 위험이 업계 내 주요 AI 시스템 어디에서나 발생할 수 있다고 보고 있습니다.
최근 연구에 따르면 AI 에이전트는 수백만 달러 가치의 블록체인 스마트 컨트랙트 제로데이 취약점을 발견할 수 있는 것으로 나타났습니다. 이는 이러한 발전된 능력이 양날의 검과 같음을 보여줍니다.
OpenAI는 자체 보안 조치를 강화하기 위해 노력해 왔지만, 해당 기업은 자체적인 문제에 직면했습니다. 과거 여러 차례 보안 침해 사고를 겪었으며, 이는 AI 시스템과 인프라를 보호하는 것이 얼마나 어려운지를 보여줍니다.
회사는 이것이 지속적인 작업이라고 밝혔습니다. 목표는 방어자에게 우위를 제공하고 기술 생태계 전반의 중요 인프라 보안을 강화하는 것입니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
누르 바즈미
Noor Bazmi는 미디어학 학위를 갖춘 크립토폴리탄 뉴스 팀에 기여하고 있습니다. Noor은 블록체인, 암호화폐, 인공지능, 빅테크, 전기차 시장, 글로벌 경제 및 정부 정책 변화에 관한 뉴스를 보도합니다. 그녀는 글로벌 청중과 소통하기 위해 마케팅을 공부 중입니다.
