- ChatGPT 의 새로운 모델 컨텍스트 프로토콜이 시연에서 개인 이메일이 유출될 수 있음을 보여주며 보안 우려를 촉발했습니다.
- EdisonWatch 는 간단한 캘린더 초대가 ChatGPT 를 장악할 수 있는 방법을 공개했으며, 이는 이더리움 공동 창립자 비탈릭 부테린의 강한 비판을 받았습니다.
- 부테린은 AI 거버넌스와 안전장치를 위한 더 견고한 접근 방식으로 '정보 금융'과 인간 배심원 제도를 촉구합니다.
에디슨워치 공동 설립자이자 CEO인 에이트 미야무라가 시연한 바와 같이, 악의적인 공격자가 OpenAI와 공유된 개인 데이터에 접근할 수 있습니다. 이 시연은 이더리움 공동 설립자 비탈릭 부테린으로부터 비판을 받았습니다.
ChatGPT에 최근 도입된 모델 컨텍스트 프로토콜(MCP)은 Gmail, 캘린더, SharePoint, Notion 등 다른 애플리케이션과 연결할 수 있게 해줍니다. 어시스턴트를 더 유용하게 만들기 위해 설계되었지만, 보안 연구원들은 이 변경이 악의적인 행위자들이 개인 정보에 접근할 수 있는 경로가 될 수 있다고 지적합니다.
에이트 미야무라는 X(구 트위터)에 공격자가 어떻게 ChatGPT 이메일을 통해 데이터를 유출하도록 속일 수 있는지 보여주는 동영상을 게시했습니다.
ChatGPT 프롬프트로 개인 이메일 데이터가 유출될 수 있습니다
에디슨워치 CEO는 결함을 시연하는 3단계 프로세스를 제시했는데, 이는 공격자가 표적에게 탈옥(jailbreak) 명령이 포함된 캘린더 초대를 보내는 것으로 시작되었습니다. 표적이 초대를 수락하지 않아도 초대가 표시됩니다.
ChatGPT가 당신의 개인 이메일 데이터를 유출하게 만들었습니다 💀💀
필요한 것은 피해자의 이메일 주소 하나뿐입니다. ⛓️💥🚩📧
수요일, @OpenAI는 ChatGPT에서 MCP(Model Context Protocol) 도구 전체 지원을 추가했습니다. ChatGPT가 Gmail, Calendar, Sharepoint, Notion 등에 연결하고 읽을 수 있게 합니다. pic.twitter.com/E5VuhZp2u2
— Eito Miyamura | 🇯🇵🇬🇧 (@Eito_Miyamura) 2025년 9월 12일
다음으로, 사용자가 캘린더를 확인하여 일정을 준비해 달라고 ChatGPT에게 요청하면, 어시스턴트는 악성 초대를 읽습니다. 이때 ChatGPT는 하이재킹되어 공격자의 지시를 실행하기 시작합니다. 시각적 시연에서 손상된 어시스턴트는 개인 이메일을 검색하여 외부 계정(이 경우 공격자의 계정)으로 데이터를 전달하도록 조작되었습니다.
미야무라는 MCP 커넥터가 활성화되면 개인 데이터가 얼마나 쉽게 유출될 수 있는지 이를 증명한다고 말했습니다. 그럼에도 불구하고 OpenAI는 MCP를 접근 권한 개발자 모드 설정으로 제한하여 각 세션마다 수동 인간 승인을 요구하므로 아직 일반 대중에게는 사용 불가능합니다.
그러나 그는 상시 승인 요청이 그가
“일반 사용자는 자신의 데이터를 위험에 빠뜨릴 수 있는 작업에 대한 권한을 부여하고 있을 때 이를 인지하기 어렵습니다. AI는 매우 똑똑할 수 있지만, 매우 단순한 방법으로 속아 사기당해 데이터를 유출할 수 있다는 점을 기억하세요.”라고 연구원은 분석했습니다.
오픈소스 개발자이자 연구원인 사이먼 윌리슨에 따르면, LLM은 입력의 출처에 따라 명령의 중요성을 판단할 수 없습니다. 모든 입력은 출처나 의도에 대한 맥락 없이 시스템이 처리하는 단일 토큰 시퀀스로 병합되기 때문입니다.
, 웹로그 “AI 에이전트를 위한 치명적인 삼중주”에 대해 논의합니다.
이더리움 공동 설립자 부테린의 해결책
이 시연은 이더리움 공동 설립자 비탈릭 부테린의 주목을 받았으며, 그는
,
이것이 바로 naive한
만약 AI를 사용하여 기여도에 대한 자금을 배분한다면, 사람들은 가능한 많은 곳에 탈옥 명령과
대안으로, 저는 인포 파이낸스 접근 방식을 지지합니다. ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9
— vitalik.eth (@VitalikButerin) 9월 13일, 2025
부테린은 LLM에서의 거버넌스에 포럼. 러시아 프로그래머에 따르면 인포 파이낸스는 누구나 무작위 스팟 체크 대상이 되는 모델을 기여할 수 있는 시장 기반 시스템이며, 평가는 인간 배심원에 의해 수행됩니다.
,
EigenCloud의 설립자 스레람 칸난이 인포 파이낸스가 공공재 자금 지원 결정에 어떻게 적용될 수 있는지 묻자, 부테린은 시스템이 여전히 신뢰할 수 있는 기준 진실(trusted ground truth)에 의존해야 한다고 설명했습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
플로렌스 무차이
플로렌스는 지난 6년 동안 암호화폐, 게임, 기술 및 AI 뉴스를 다루어 왔습니다. 메루 과학기술대학교에서 컴퓨터학을, MMUST에서 재난 관리 및 국제 외교를 전공하며 언어, 관찰력 및 기술적 역량을 충분히 갖추었습니다. 플로렌스는 VAP 그룹에서 근무했으며 여러 암호화폐 미디어 하우스의 편집자로 활동했습니다.
