오픈아이얼은 자사의 차세대 AI 모델이 해킹 도구로 악용될 수 있다고 경고했습니다.

챗GPT를 개발한 회사는 수요일, 차세대 인공지능 시스템에 도사리고 있는 잠재적 위험에 대해 강력한 경고를 발표하며, 이러한 시스템이 심각한 사이버 보안 위협을 초래할 수 있다고 밝혔습니다.

OpenAI는 자사의 미래 AI 모델이 고도로 보호된 컴퓨터 시스템을 대상으로 하는 기능적인 제로데이 취약점을 생성할 수 있을 것이라고 밝혔습니다. 이 기술은 또한 실제 피해를 야기하도록 설계된 정교한 기업 또는 산업 시설 공격을 실행하는 데에도 도움이 될 수 있습니다.

상황이 빠르게 변화하고 있습니다. 블로그 캡처 더 플래그 보안 문제 해결 성능이 2025년 8월 GPT-5의 27%에서 불과 3개월 후인 2025년 11월 GPT-5.1-Codex-Max의 76%로 급증했다고 언급했습니다.

OpenAI는 이제 새로 개발하는 모든 모델이 "높은" 수준의 사이버 보안 기능을 갖출 수 있다고 가정합니다. 이는 잘 보호된 네트워크에서 이전에 알려지지 않은 취약점을 악용하여 작동하는 공격 도구를 만들거나, 중요 인프라를 표적으로 하는 복잡한 침입 캠페인을 지원할 수 있는 시스템을 의미합니다.

마이크로소프트의 지원을 받는 이 회사는 방어적 보안 업무에서 모델의 성능을 향상시키기 위해 투자하고 있다고 밝혔습니다. 보안 팀이 코드의 문제를 검사하고 보안 취약점을 수정하는 데 도움이 되는 도구를 개발 중입니다. 오픈아이(OpenAI)는 수적으로 열세이고 자원이 부족한 상황에서 방어자들이 우위를 점할 수 있도록 지원하고자 합니다.

여기서부터 복잡해집니다. 방어적 사이버 보안과 공격적 사이버 보안은 동일한 기본 지식과 방법을 사용합니다. 방어자에게 도움이 되는 것이 공격자에게도 똑같이 도움이 될 수 있습니다. OpenAI는 하나의 보호 조치에만 의존할 수 없다고 말합니다. 여러 겹의 보안 제어가 함께 작동해야 한다는 것입니다.

이 회사는 접근 제한,tron된 인프라 보안, 정보 흐름 통제 및 지속적인 모니터링을 활용하고 있습니다. 또한 사이버 공격을 가능하게 하는 요청은 거부하면서도 합법적인 보안 업무 및 교육에는 유용하게 사용할 수 있도록 모델을 훈련시키고 있습니다.

탐지 시스템은 고급 모델을 사용하여 제품 전반에 걸쳐 의심스러운 활동을 감시합니다. 위험해 보이는 활동이 감지되면 시스템은 결과를 차단하거나, 성능이 낮은 모델로 전환하거나, 사람의 검토를 위해 표시합니다.

한계를 시험하다

OpenAI는 자사의 모든 방어 체계를 뚫으려고 시도하는 전문 보안 테스트 그룹과 협력합니다. 이들은 막대한 자원을 보유한 작정하고 공격하는 공격자가 어떻게 공격할지 시뮬레이션합니다. 이를 통해 실제 위협이 발생하기 전에 취약점을 찾아낼 수 있습니다.

인공지능(AI)으로 인한 사이버 보안 위험은 업계 전반에 걸쳐 우려를 불러일으키고 있습니다. Cryptopolitan 이전 보도처럼, 해커들은 이미 AI 기술을 활용하여 공격 방식을 개선하고 있습니다.

해당 회사는 사이버 보안 방어 분야에 종사하는 자격을 갖춘 사용자에게 최신 모델의 향상된 기능에 대한 특별 접근 권한을 제공하는 프로그램을 계획하고 있습니다. 오픈아이디어는 어떤 기능을 널리 사용할 수 있고 어떤 기능에는 더 엄격한 제한이 필요한지 아직 검토 중입니다.

다음으로 아드바크(Aardvark)가 있습니다. 이 비공개 테스트용 보안 도구는 개발자와 보안 팀이 대규모로 취약점을 찾아 수정하는 데 도움을 줍니다. 코드의 약점을 스캔하고 수정 방안을 제시합니다. 이 시스템은 이미 오픈 소스 소프트웨어에서 새로운 취약점을 발견했습니다. OpenAI는 상당한 자원을 투자할 계획입니다 . 여기에는 일부 비상업적 오픈 소스 프로젝트에 대한 무료 보안 지원을 제공하는 것도 포함됩니다.

OpenAI는 사이버 보안 분야의 경험 많은 방어 전문가와 실무자들을 한데 모으는 '프론티어 리스크 위원회'를 설립할 예정입니다. 이 그룹은 사이버 보안을 중심으로 시작하지만, 향후 다른 분야로 확장될 것입니다. 위원회 구성원들은 유용한 기능과 잠재적 오용 사이의 경계를 설정하는 데 도움을 줄 것입니다.

보안은 여전히 ​​과제로 남아 있습니다.

이 회사는 프론티어 모델 포럼(Frontier Model Forum)을 통해 다른 주요 AI 기업들과 협력하고 있습니다. 이 비영리 단체는 위협 요인과 모범 사례에 대한 공통된 이해를 구축합니다. 오픈아이(OpenAI)는 첨단 AI로 인한 보안 위험이 업계의 모든 주요 AI 시스템에서 발생할 수 있다고 생각합니다.

최근 연구에 따르면 AI 에이전트는 블록체인 스마트trac에서 수백만 달러 상당의 제로데이 취약점을 발견할 수 있는 것으로 나타났습니다. 이는 이러한 발전된 기능이 양날의 검이 될 수 있음을 보여줍니다.

OpenAI는 자체 보안 조치를 강화하기 위해 노력해 왔지만, 회사 자체도 문제에 직면했습니다. 과거에 여러 차례 보안 침해 사고를 겪었던 것은 AI 시스템과 인프라를 보호하는 것이 얼마나 어려운지를 보여줍니다.

회사 측은 이것이 진행 중인 작업이라고 밝혔습니다. 목표는 방어자에게 이점을 제공하고 기술 생태계 전반에 걸쳐 중요 인프라의 보안을 강화하는 것입니다.