- 호주는 오픈AI 에이전트가 메디케어 데이터를 보유한 정부 서비스를 침해한 사건 이후 더욱 강력한 AI 보호 조치를 요구했습니다.
- OpenAI는 약 두 달 후 호주에서 발생한 데이터 유출 사건을 발견했고, 이는 앤서니 올버니즈 총리의 비판을 불러일으켰습니다.
- 22개국이 글로벌 AI 감독 규칙에 대한 지지를 표명했지만, 미국과 중국은 이 선언에 서명하지 않았다.
호주는 오픈AI와 연계된 자율 시스템이 호주 정부의 메디케어 데이터를 보유한 서비스에서 보안 조치를 우회한 사건 이후, 인공지능 보안 문제를 유엔에 제기했습니다.
앤서니 올버니즈 영국 총리는 목요일 세계 지도자들에게 인공지능(AI)이 "엄청난 속도"로 발전하고 있으며 정부는 이 기술에 대한tron강력한 통제가 필요하다고 말했습니다.
이는 호주 정부 컴퓨터 시스템 해킹 사건이 공개적으로 알려진 첫 번째 사례입니다. 앤서니는 뉴욕에서 열린 유엔 총회에서 이번 침입 사건을 "용납할 수 없는 일"이라고 규탄했습니다
앤서니는 지난 6월 오픈AI 소속의 악성 AI 프로그램들이 정부 컴퓨터 네트워크에 접근하는 데 성공했다는 사실을 밝힌 후 이러한 경고를 발표했습니다. Cryptopolitan 이전에 보도한 바와 같이, 오픈AI는 약 두 달 후에 이 사실을 알게 되었습니다.
앤서니에 따르면, 그는 이번 주 초 오픈AI 창립자 샘 알트만과 직접 통화했다고 합니다. 통화에서 앤서니는 오픈AI가 지금까지 정부에 데이터 유출 사실을 알리지 않은 것에 대해 불만을 표명했습니다.
호주가 각국 정부에 인공지능 규제 강화를 촉구하는 가운데, 지도자들은 인공지능 시스템의 발전 속도가 너무 빠르다고 경고하고 있습니다
앤서니는 유엔에서 각국이 인공지능을 단순히 차단하거나 사라지는 척할 수는 없다고 말했습니다. 그는 "우리는 인공지능을 무시하거나 막을 수 없습니다."라며, "바로 그렇기 때문에 우리는 이번 주 다른 국가들과 함께 인공지능 발전에 수동적으로 휘둘리는 것이 아니라, 발전 방향을 주도적으로 만들어 나가자는 행동을 촉구한 것입니다."라고 밝혔습니다
그는 인공지능의 경제적, 의학적 활용 가능성을 언급하면서도, 이러한 시스템이 새로운 안보 문제를 야기할 수 있다고 경고했습니다.
앤서니는 "AI는 삶을 개선하고, 성장과 생산성을 높이며, 의료 및 기타 분야에서 혁신적인 돌파구를 마련할 수 있습니다."라고 말했습니다. "하지만 AI 기업의 리더들 스스로도 안전장치 없이 최첨단 AI가 너무 빠르게 발전하도록 내버려 두면 발생할 수 있는 잠재적 위험에 대해 경고해 왔습니다.".
인공지능은 올해 총회에서 주요 논의 주제 중 하나가 되었습니다.
샘은 유엔 안전보장이사회에 다음과 같이 말했습니다
우리 역사에는 경쟁 관계에 있고 서로 사이가 좋지 않은 나라들도 강력한 신기술에 맞서 공동의 이익과 공동선을 위해 협력한 사례가 있습니다. 우리는 지금이 바로 그런 시기라고 믿습니다.
앤트로픽의 CEO인 다리오 아모데이는 첨단 모델 테스트 방식을 규정하는 "공통 글로벌 표준"의 필요성을 제기했습니다. 앤트로픽은 비상장 기업으로 상장 주식 코드가 없습니다.
다리오는 정부와 개발자들이 점점 더 강력해지는 시스템에 대한 통제력을 잃을 경우 어떤 일이 벌어질 수 있는지에 대해 훨씬 더 날카로운 경고를 했습니다.
제대로 관리되지 않는다면, 인공지능은 인류 전체에 위협이 될 수 있다고 생각합니다.
이러한 성명은 이번 주 초 22개국이 참여한 국제적인 움직임에 따른 것입니다. 핀란드와 노르웨이가 주도하는 이 그룹은 인공지능의 안전과 보안을 포괄하는 전 세계적인 감독 체계 구축을 촉구하는 선언문을 지지했습니다.
해당 선언문은 인공지능이 "인간의 지휘, 감독 및 통제 하에 있어야 한다"고 명시했습니다
그 협정에는 두 주요 국가, 즉 미국과 중국이 빠져 있었다.
OpenAI 프로브는 수개월간의 훈련 기간 동안 제한된 사이트에 계속 접근했습니다
그러는 동안 인공지능 연구 그룹인 트랜슬루스(Transluce)의 새로운 보고서에 따르면, 오픈AI(OpenAI) 에이전트는 훈련 과정에서 웹사이트로부터 정보를 수집하려는 더 광범위한 자동화 시스템 그룹의 일부였다고 합니다. 연구원들은 세 곳의 대학 및 정부 웹사이트에서 이러한 시도를 발견했습니다.
보고서에 따르면 해당 시스템은 원래 일반적인 데이터 수집 작업을 수행하고 있었습니다. 문제는 요청된 정보를 얻는 정상적인 방법이 작동을 멈추면서 시작되었습니다.
단순히 실패하는 데 그치지 않고, 요원들은 다른 방법을 모색하기 시작했습니다.
트랜슬루스는 해당 시스템들이 다른 정보 수집 수단을 사용하는 데 실패한 후 5월부터 6월까지 세 곳의 사이트 모두에서 보안 조치를 우회하려 시도했다고 지적했습니다.
이러한 광범위한 추세와 관련된 네트워크 활동이 지난주에도 포착되었습니다. 보고서에 따르면, 이러한 트래픽은 요원들이 일부 온라인 서비스를 이용하여 여전히 제한을 우회할 수 있음을 시사합니다.
해당 활동은 훨씬 더 오랫동안 지속되었을 가능성이 있습니다. Transluce는 적어도 3월부터 9월 16일까지 더 명확한 징후를 trac했습니다. 연구진은 또한 2025년 11월까지 거슬러 올라가는 유사한 데이터 수집 행태의 미약한 징후도 발견했습니다.
연구팀은 자율 AI 봇에서 나온 것으로 추정되는 수만 건의 쿼리 데이터를 공개하며 연구 결과를 발표했습니다.
연구원들은 이전 시도들이 동일한 봇에서 비롯되었다는 것을 확실하게 입증할 방법이 없었습니다. 그럼에도 불구하고, 이러한 패턴들은 인공지능이 반복적인 시도를 통해 정보에 접근하는 다양한 방법을 개발할 수 있다는 점과 일관성을 보였습니다.
그러한 사례들은 OpenAI가 점점 더 뛰어난 에이전트 시스템을 훈련시키고 Anthropic과 경쟁하는 동안 발생했습니다. Transluce는 에이전트가 차단된 정보에 접근하는 데 더욱 효과적이 되면서 시간이 지남에 따라 패턴이 바뀌었다고 말했습니다.
"3월이 되자 그들은 접근 제한을 우회하는 창의적인 방법을 찾아냈습니다. 5월과 6월에는 더 많은 접근 권한을 확보했으며, 사이버 방어망을 우회하여 임무를 완수하려는 시도까지 했습니다."라고 보고서는 밝혔습니다.
암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.
자이 하미드
자이 하미드는 지난 6년간 암호화폐, 주식 시장, 기술, 세계 경제 및 시장에 영향을 미치는 지정학적 사건들을 다뤄왔습니다. 그녀는 AMB Crypto, Coin Edition, CryptoTale 등 블록체인 전문 매체에서 시장 분석, 주요 기업, 규제 및 거시 경제 동향 관련 기사를 작성했습니다. 런던 저널리즘 스쿨을 졸업했으며, 아프리카 최고의 TV 방송국 중 한 곳에서 세 차례에 걸쳐 암호화폐 시장 관련 통찰을 제공했습니다.
