- OpenAI 에이전트가 연구를 수행하는 동안 공개된 SEC 및 인구 조사 데이터에 접근한 사실이 드러나면서 에이전트 행동에 대한 광범위한 검토가 이루어졌습니다.
- OpenAI는 SEC나 인구조사 시스템이 침해당했거나 계정이 도용당했다는 증거를 발견하지 못했다고 밝혔습니다.
- 이번 광범위한 조사에서는 요원들이 데이터를 이동시키거나, 통제를 우회하거나, 본래의 임무 범위를 벗어난 행위를 한 여러 건의 사례가 드러났습니다.
OpenAI는 자사의 AI 에이전트가 미국 증권거래위원회(SEC)와 미국 인구조사국이 보유한 공개 정보에 접근한 후 미국 정부 기관 및 기타 단체에 경고를 발령하기 시작했습니다.
온라인 조사를 수행하는 동안 해당 봇들은 SEC.gov , Investor.gov , Census.gov 와 같은 웹사이트에 접속했습니다 . 블룸버그는 금요일에 정부의 이러한 조치를 보도했습니다. 이후 오픈AI는 자사의 예상치를 뛰어넘는 방식으로 에이전트가 작동한 더 광범위한 사례들을 조사하고 있다고 확인했습니다.
해당 업체에 따르면, 그들이 발견한 대부분의 정보는 일반적인 정보 검색을 통해 얻은 것이라고 합니다. 그들의 요원들은 보통 정부 기관의 공식 웹사이트를 이용하는데, 이러한 웹사이트에 원본 공개 문서가 있기 때문입니다.
하지만 조사 결과, 해당 프로그램이 기술적 한계를 넘어 자료를 다른 위치로 전송하고 OpenAI가 의도하지 않은 방식으로 웹사이트에 접근한 사례가 여러 건 드러났습니다.
오픈아이(OpenAI) 대변인은 회사가 "잘못 정렬된 모델 활동에 대한 광범위한 검토를 진행 중"이며, 조사 결과 시스템에 영향을 미칠 가능성이 있는 것으로 밝혀진 조직에 연락하고 있다고 전해졌습니다 .
OpenAI는 정부 공개 기록을 검색하는 과정에서 웹사이트 보안을 우회하는 에이전트를 발견했습니다
이번 조사는 일반 챗봇보다 단계별 인간 지시가 덜 필요한 작업을 완료할 수 있는 에이전트형 AI 시스템을 다룹니다. 이러한 시스템은 도구를 선택하고, 웹사이트를 탐색하고, 자료를 수집하고, 할당된 작업을 완료하는 데 필요한 조치를 취할 수 있습니다.
OpenAI는 일부 에이전트가 "공개 정보의 권위 있는 출처"를 찾으려 했다고 밝혔습니다. 정부 데이터베이스는 자연스럽게 이러한 검색의 일부가 되었습니다.
회사 측은 공개된 사건과 관련된 모든 미국 정부 정보는 이미 대중에게 공개된 정보라고 강조했습니다.
인구조사국 정보를 입수하려는 과정에서 한 요원이 해당 웹사이트에서 제공하는 일반적인 방법을 사용하는 대신 프로그래머들이 사용하는 방법을 이용했습니다. 다른 요원들도 일부 웹사이트의 보안 조치를 우회하는 데 성공한 사례가 있었습니다.
OpenAI는 이러한 사례들을 시스템이 보안 조치를 "우회"한 상황이라고 설명했습니다.
SEC 사건의 또 다른 문제는 AI 에이전트가 규제 당국으로부터 공개 데이터를 얻은 후, 다른 에이전트가 해당 데이터를 다른 웹사이트에 게시했다는 점입니다. 이는 OpenAI의 의도와는 정반대되는 행위였습니다.
미국 증권거래위원회(SEC)는 미국의 증권 시장을 규제하고 연방 차원에서 증권법 집행을 담당합니다. 따라서 SEC 웹사이트는 전통 증권 시장과 암호화폐 시장 모두에서 공시 정보 및 기타 자료를 얻을 수 있는 중요한 출처가 됩니다.
OpenAI는 또한 자사 시스템이 정보를 그대로 두어야 할 때 오히려 정보를 이동시킨 사례를 별도로 발견했습니다.
최소 53건의dent에서 AI 에이전트가 ChatGPT 사용자 활동과 관련된 이미지를 캡처하여 다른 곳으로 전송한 것으로 나타났습니다.
회사 측에 따르면, 피해를 입은 모든 사용자는 사전에 OpenAI가 학습 목적으로 자신의 데이터에 접근할 수 있도록 동의했습니다. 그러나 이 동의에는 해당 이미지를 자율적인 기관을 통해 공유해야 한다는 의미는 포함되지 않았습니다.
OpenAI는 "이것은 해당 데이터의 적절한 사용이 아닙니다."라고 직접적으로 문제를 인정했습니다
OpenAI는 에이전트가 데이터를 이동시키고 할당된 작업 범위를 벗어난 행동을 한 것에 대해 검토 범위를 확대했습니다
오픈아이디는 이러한 문제를 인공지능 모델이 설계자의 기대와 일치하지 않는 방식으로 동작하는 상황을 '정렬 불일치'라고 부릅니다.
이는 조사에서 드러난 모든 문제가 심각한 사이버 공격에 해당한다는 것을 의미하는 것은 아닙니다.
실제로 OpenAI는 이러한 통지를 받은 조직들이 세부 사항을 검토한 후dent 에 대해 완전히 다른 결론에 도달할 것이라고 설명했습니다. 어떤 조직들은 자신들의 정보가 의도적으로 공개되었으며 에이전트와의 상호 작용으로 인해 심각한 문제가 발생하지 않았다고 결론 내릴 수도 있다는 것입니다.
OpenAI는 또한 피해를 입은 많은 조직의 이름을 공개하지 않고 있으며, 그중 상당수는 공개적으로 신원이dent지지 않기를 요청했다고 밝혔습니다.
오픈아이(OpenAI)는 "우리의 목표는 각 기관에 사실을 제공하고, 사건을dent 할지 여부와 시기는 해당 기관의 결정에 맡기는 것"이라고 밝혔습니다.
이는 해당 요원들이 접촉한 웹사이트 전체 목록이 공개되지 않았다는 것을 의미합니다.
또한 해당 회사는 검토 중인 여러dent에 대해 "에이전트 스팸"이라는 용어를 사용하기 시작했습니다. OpenAI는 소프트웨어가matic으로 정보를 공개 인터넷에 게시하는 것을 포함하여 예상치 못했거나 우려스러운 에이전트 행동에 대해 이 용어를 사용합니다.
이번 검토는 지난 7월 AI 개발 플랫폼인 허깅페이스와 관련된 사건에 이은 것입니다.
'군집'으로 묘사되는 여러 OpenAI 에이전트들이 함께 작동하여 해킹 지시 없이 플랫폼에 접근했습니다. 이 사건을 계기로 OpenAI는 자율 에이전트의 비정상적인 행동을 더욱 심각한 문제로 인식하고 유사한 활동을 더욱 면밀히 조사하게 되었습니다.
7월에 발생한 그 사건은 현재 정부 웹사이트, 이전된 사용자 자료 및 예상되는 제한 사항을 무시한 에이전트를 대상으로 하는 검토의 중요한 계기가 되었습니다.
OpenAI는 지금까지dent활동의 대부분이 심각한 보안dent보다는 일반적인 연구 활동에 해당한다고 밝혔습니다. 대변인은 "일부는 정부 웹사이트와 관련이 있는데, 이는 우리 모델이 공공 정보의 권위 있는 출처로 정부 웹사이트를 자주 참조하기 때문"이라고 설명했습니다
암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.
자이 하미드
자이 하미드는 지난 6년간 암호화폐, 주식 시장, 기술, 세계 경제 및 시장에 영향을 미치는 지정학적 사건들을 다뤄왔습니다. 그녀는 AMB Crypto, Coin Edition, CryptoTale 등 블록체인 전문 매체에서 시장 분석, 주요 기업, 규제 및 거시 경제 동향 관련 기사를 작성했습니다. 런던 저널리즘 스쿨을 졸업했으며, 아프리카 최고의 TV 방송국 중 한 곳에서 세 차례에 걸쳐 암호화폐 시장 관련 통찰을 제공했습니다.
