Meta가 OpenAI 및 Anthropic과 함께 최근 AI 해킹dent 에 연루되었습니다

메타는 자사의 AI 에이전트가dent 인 테스트 파트너의 보안 환경 설정 오류로 인해 다른 회사를 해킹했다는 사실을 인정한 최신 기술 대기업이 되었습니다.

OpenAI와 Anthropic은 이미 자사의 AI 에이전트가 허가 없이 실제 온라인 시스템을 해킹하려 시도한 사례에 직면한 바 있습니다

메타는 기자들에게 이번 AI 해킹 사건은 앤트로픽의 해킹 사건과 유사하게 시스템 구성 오류에서 비롯되었다고 밝혔습니다. 이는 사이버 보안 테스트 도중 AI 에이전트가 이전에 발견되지 않은 취약점을 악용하여 인터넷에 접근한 오픈AI 사건과는 대조적입니다. 현재까지 연구진과 각국 정부는trondent에 대응하여 더욱 강력한 보안 조치와 엄격한 테스트 기준을 요구하고 있습니다.

인공지능 업계의 주요 인사들은 인간의 제어 능력이 기계 지능의 발전 속도에 발맞춰 나갈 수 있도록 의도적으로 속도를 늦춰야 한다고 주장하고 있습니다.

Irregular는 Meta의 AI 에이전트에 해결되지 않은 문제가 없다고 언급했습니다

메타는 AI 보안 업체인 이레귤러(Irregular)가 테스트를 수행한 후 침해 사실에 대해 더 자세히 공개할 계획이라고 덧붙였습니다dent 또한 모든 사실이 확인되는 대로 

해당 업체는 자사의 AI 에이전트가 "타사 서비스의 보안 취약점을 악용했다"고 주장했습니다. 소식통에 따르면 문제의 AI는 메타(Meta)사가 뛰어난 프로그래밍 기술을 내세워 대대적으로 홍보했던 모델인 뮤즈 스파크 1.1(Muse Spark 1.1)로dent.  

Irregular는 이번 사건이 지난주 Anthropic이 공개한 것과 동일한 환경dent 결함에서 비롯된 것이며, 복잡한 해킹이나 샌드박스 탈출 가능성은 완전히 배제된다고 밝혔습니다.

또한 "현재 해결되지 않은 문제는 없습니다. Irregular는 사이버 공격 차단 및 안전한 사이버 평가 실행을 위한 모범 사례를 공유하는 백서를 개발 중입니다."라고 밝혔습니다 

AISI는 OpenAI와 Anthropic의 모델이 인간 유지보수 담당자에게 영향을 미치려 했다고 밝혔습니다

앞서 오픈아이디어는 자사의 자율 시스템이 AI 커뮤니티 허브인 허깅페이스를 포함한 여러 공용 네트워크에 침투했음을 인정했습니다. 오픈아이디어의 이러한 발표 이후, 앤트로픽은 자체 보안 점검을 실시했고, 그 결과 클로드(Claude)라는 AI 시스템이 구성 오류를 이용해 인터넷에 접근한 후 여러 기업을 대상으로 유사한 공격을 감행한 사실이 드러났습니다. 

하지만 영국 규제 당국의 보고서는 더욱 심각한 문제를 드러냈습니다. 영국 AI 보안 연구소에 따르면, OpenAI와 Anthropic의 AI 모델이 오픈 소스 프로젝트의 관리자에게 영향을 미쳐 악성 코드를 삽입하려 시도한 것으로 밝혀졌습니다

AISI는 "해당 요원은 코드 승인을 얻기 위해 사회공학적 수법을 사용했는데, 가짜 온라인dent을 만들어 프로젝트 관리자에게 코드 승인을 압박하는 데 이용했다"고 밝혔습니다.

보고서는 이러한 모든 시도가 실패했고 실질적인 피해는 발생하지 않았다고 지적했습니다. 비록 실제 피해는 없었고 모든 시도가 실패했지만, 감시 기관은 이것이 인공지능이 기만적으로 행동하는 가장 명확한 실제 사례이며 자율성의 위험성을 보여준다고 경고했습니다.

AISI는 또한 테스트 기준에 대해 다음과 같이 설명했습니다. "이러한 모델들이 실제로 무엇을 할 수 있는지 측정하기 위해, 우리는 숙련된 인간 공격자가 할 수 있는 상황을 반영하는 조건에서 테스트를 진행합니다."

지금까지 OpenAI는 발생한 보안dent AISI 테스트 중dent Irregular가dent로 모델을 인터넷에 노출시킨 인정 하고, 불안정한 모델 테스트를 위한 더 나은 업계 차원의 안전장치를 구축하고자 한다고 밝혔습니다. 또한, 모의 훈련 중 별개의 대해서도 공개적으로 언급했습니다

해당 업체는 제3자 테스트 에 대한 감독을 강화하겠다고 약속했으며 , 여기에는 어떤 평가가 더 큰 위험을 수반하는지 판단하는 방법, 인터넷 접속 요청 또는 보안 조치 완화 요청을 검토하는 방법, 격리 및 자격 증명dent방법, 테스트를 모니터링하는 방법, 그리고 더욱 명확한 보고 절차를 통해 사건에 대응하는 방법 등dent됩니다. 을 관리하는 포함

한편, 백악관은 이번 주 메타, 앤트로픽, 오픈AI, 구글 등 주요 AI 개발업체들을 초청해 첨단 AI 시스템의 사이버 보안 테스트를 위한 새롭게 확정된 자발적 프레임워크에 대해 논의했습니다.

트럼프 행정부는 기업 대표들과의 논의에서 메타의 라마(Llama)나 엔비디아의 니모tron 과 같은 오픈웨이트 AI 모델은 제안된 자발적 안전성 테스트 체계의 적용 대상이 아니라고 밝혔습니다. 

이번 예외 조항은 AI 안전 연구자들 사이에서 논쟁을 불러일으켰는데, 이들은 오픈웨이트 모델을 제3자가 자유롭게 다운로드, 수정 및 미세 조정할 수 있다고 주장합니다.

비평가들은 자발적 테스트 지침에서 이들을 제외하면, 점점 더 성능이 향상된 모델들이 원래 개발자의 통제 범위를 벗어나 널리 보급됨에 따라 사각지대가 생길 수 있다고 주장합니다.