ChatGPT가 SSRF 취약점을 악용한 맞춤형 GPT를 사용하여 해킹당했습니다

OpenAI의 대규모 언어 모델인 ChatGPT가 이번 주 초 한 연구원이 발견한 Custom GPT의 "액션" 기능 내 보안 취약점을 수정했습니다. 연구원은 공격자가 서버 측 요청 위조(SSRF) 버그를 악용하여 AI 모델 클라우드 내부의 자격dent정보를 노출할 수 있었다고 주장했습니다.

오픈 보안 엔지니어이자 버그 헌터인 SirLeeroyJenkins는 첫 번째 맞춤형 GPT를 개발하던 중 SSRF 취약점을 "감지"했습니다. 액션 기능은 사용자가 오픈 API 스키마를 사용하여 외부 API를 defi하고, AI가 날씨 데이터 가져오기와 같은 특정 작업을 위해 해당 API를 호출하도록 합니다.

SirLeeroyJenkins는 자신이 개발한 API를 테스트하던 중 시스템이 사용자가 제공한 URL에서 데이터를 반환하는 것을 발견했습니다. 이러한 동작에 경각심을 느낀 그는 SSRF(서버 사이드 프로그래밍 공격) 가능성을 의심하여 ​​추가 테스트를 진행했습니다.

"이 기능이 사용자가 제공한 모든 URL에서 데이터를 반환할 수 있다는 것을 깨닫자마자 해커 본능이 발동했습니다."라고 그는 말했다. "SSRF 취약점을 확인해야 했습니다."

SSRF 취약점으로 인해 사용자 지정 GPT가 안전하지 않을 수 있습니다 

, 설명했듯이 서버 측 요청 위조(SRF)는 애플리케이션이 의도하지 않은 대상으로 요청을 보내도록 속이는 웹 취약점입니다. 애플리케이션이 사용자가 제공한 URL을 제대로 검증하지 않으면 공격자는 서버 접근 권한을 이용하여 내부 네트워크나 클라우드 메타데이터 서비스에 접근할 수 있습니다.

SSRF는 2021년 OWASP Top 10 목록에 오를 정도로 널리 퍼져 있었으며, 클라우드 환경의 안전하지 않은 기본 구성으로 인해 중요 시스템이 노출될 수 있기 때문에 잠재적 피해 범위가 더욱 확대되었습니다.

젠킨스는 SSRF에는 크게 두 가지 유형, 즉 전체 읽기형과 블라인드형이 있다고 설명했습니다. 전체 읽기형 SSRF는 대상 서비스의 데이터를 공격자에게 직접 반환합니다. 반면 블라인드형 SSRF는 응답을 노출하지 않지만 타이밍 기반 포트 스캐닝 등을 통해 내부 서비스와 상호 작용할 수 있도록 합니다.

을 저장하는 Azure의 인스턴스 메타데이터 서비스(IMDS)를 가리키는 API URL을 사용하여 취약점을 테스트했습니다dent. 이 서비스에 액세스하려면 일반적으로 Metadata: True 헤더가 필요하므로 초기 시도에서 요청한 헤더를 제공할 수 없다는 사실에 놀랐습니다.

사용자 지정 GPT 기능은 처음에 HTTPS URL을 강제 적용했기 때문에 해당 취약점을 차단했습니다. Azure IMDS는 HTTP를 통해 작동하기 때문입니다. 외부 HTTPS 엔드포인트에서 내부 메타데이터 URL로 302 리디렉션을 사용하자 서버는 리디렉션을 따라갔습니다. 그러나 Azure는 필수 헤더가 없으면 액세스를 차단했습니다.

"서버가 302 리디렉션을 따랐기 때문에 내부 메타데이터 URL에서 응답을 반환했습니다. 임무 완료인 것 같죠? 아닙니다. 메타데이터 서비스의 응답을 보니 필수 헤더가 설정되지 않았다는 것을 알게 되었습니다."라고 SirLeeroyJenkins는 지적했습니다.

응답을 계속 조사한 결과, 해당 기능은 임의로 이름을 지정할 수 있는 사용자 지정 API 키를 허용하는 것으로 나타났습니다. 그는 Metadata 값을 true, 이때 GPT가 메타데이터 서비스에 접근할 수 있도록 필요한 헤더가 삽입되었습니다.

젠킨스는 해당 취약점을 즉시 OpenAI의 Bugcrowd 프로그램에 보고했고, 그 결과 해당 문제는 심각도가 높은 것으로 분류되어 패치가 적용되었습니다.

그는 또한 오픈 시큐리티가 이전에 주요 글로벌 금융 회사의 취약한 송장 생성 기능을 악용하여 보안 감사를 수행하기 위해 이와 같은 SSRF 공격 체인을 사용한 적이 있다고 언급했습니다.

OpenAI는 버전 5.0 논란 이후 GPT-5.1을 출시했습니다

ChatGPT 관련 소식으로, OpenAI는 GPT-5.1 출시를 발표하며, 버전 5.0에서 개선된 여러 업데이트를 통해 명령 추종 및 적응형 추론 기능을 향상시켰다고 밝혔습니다. 

"GPT-5.1이 출시되었습니다! 훌륭한 업그레이드입니다. 특히 지시 사항 준수 및 적응형 사고 능력 향상이 마음에 듭니다. 지능 및 스타일 개선도 좋습니다." 글을 올렸습니다 CEO 샘 알트먼은 수요일 늦게 X에

기술 전문 작가 메훌 굽타는 GPT-5.1을 이전 버전과 비교 테스트하면서 GPT-5가세련되고 유용하긴 하지만 때때로 간단한 작업을 지나치게 복잡하게 만든다고 지적했습니다. GPT-5.1의 즉시 실행 버전은 이해력이 향상되었고, 상황에 맞는 미묘한 적응형 일시 정지를 통해 더욱 "맥락을 인식하는" 답변을 제공한다고 합니다.

한 실험에서 굽타는 두 모델 모두에게 6단어로 답변하도록 요청했습니다. GPT-5는 지나치게 자세한 설명을 시도한 반면, GPT-5.1은 간결하고 정확한 답변을 제시했습니다. 

알트만은 또한 기본, 친근함, 효율성, 전문성, 솔직함, 개성 등 7가지 새로운 사전 설정이 추가되었다고 발표했지만, 사용자는 "직접 조정할 수도 있다"고 덧붙였습니다