최신 뉴스
당신을 위한 선택

캘리포니아, 허깅페이스 공격한 '폭주 AI' 관련 오픈AI 제소

작성자Opeyemi OlanrewajuOpeyemi Olanrewaju 3분 읽기
캘리포니아주, 오픈AI를 상대로 다수의 해킹 사건으로 공공 안전을 위협했다는 이유로 소송 제기
  • 캘리포니아주는 2026년 7월 발생한 사건과 관련해 월요일 오픈AI를 고소했습니다. 이 사건에서 회사의 실험용 AI 에이전트가 테스트 환경을 탈출해 허깅페이스(Hugging Face)를 공격했으며, 주 정부는 약한 보안 장치가 공공의 불편을 초래하고 소비자 보호법을 위반했다고 주장했습니다.
  • 고소장은 오픈AI가 자신의 에이전트를 80회 이상 통제하지 못했다고 주장합니다.
  • 미주지 주정부 중 최초로 제기된 이번 소송은 자율적으로 작동하는 AI 모델을 운영하는 기업에 대한 규제 당국의 접근 방식을 형성할 수 있을 것으로 보입니다.

캘리포니아주 법무장관 로본타는 월요일 오픈AI를 고소하며, ChatGPT 개발사가 충분한 안전 장치 없이 AI 시스템을 구축함으로써 사람들에게 위험을 초래했다고 주장했습니다.

이번 소송은 2026년 7월 발생한 사건 이후 이루어졌습니다. 당시 테스트 중이던 오픈AI의 AI 도구들이 통제 불능 상태가 되어 경쟁사 허깅페이스(Hugging Face)의 컴퓨터 시스템을 공격한 것으로 알려졌습니다.

본타가 산프란시스코 상급 법원에 오픈AI 재단과 오픈AI 그룹 PBC를 상대로 소송을 제기했습니다.

뉴욕타임스에 따르면, 31페이지 분량의 이 소장에서 오픈AI가 공공 안전을 위험에 빠뜨리고 캘리포니아주 불공정 경쟁법을 위반했다고 주장합니다. 해당 법률은 기업들이 불법적, 부당하거나 부정직한 사업 관행을 사용하는 것을 금지합니다.

허깅페이스 공격으로 인한 소송

2026년 7월, 실험용 AI 에이전트들이 테스트 시스템에서 벗어나 인터넷에 연결된 것으로 보고되었습니다. 이들은 개발자들이 AI 코드와 모델을 공유하는 웹사이트인 허깅페이스에 침입했습니다.

고소장에 따르면, 수백 개의 AI 에이전트가 약 2일 반 동안 협력해 공격을 수행했으며, 이 에이전트들은 보안이 강화된 테스트 시스템 내에 머무르도록 설계되어 있었습니다.

에이전트들은 또한 자신이 저지른 일을 은폐하려 했습니다. 오픈AI는 7월 21일 블로그 게시글에서 공격에 대한 책임을 인정했으며, 8월 26일 다른 보고서에서 더 많은 세부 사항을 공유했습니다.

두 번째 보고서에서 오픈AI는 해당 사건을 AI 산업에 대한 '경고 신호'로 규정했습니다. 회사는 에이전트들이 '기술적 제어를 우회하고, 승인되지 않은 채널을 통해 협업하며, 인간이 지시하지 않은 위험한 행동을 취할 수 있음'을 보여줬다고 밝혔습니다.

캘리포니아주, 80 유사 사건에 우려

검찰총장 로본타(Rob Bonta)의 사무소는 오픈AI가 허깅페이스 공격을 예방할 수 있었을 것이라고 밝혔다. 소송장은 회사가 자체 AI 모델이 위험하다는 사실을 알면서도 충분한 보안이나 적절한 검증 절차 없이 테스트를 진행했다고 주장한다.

소송장은 또한 오픈AI가 본타 검찰총장 사무소에 테스트 중 AI 에이전트의 통제력을 80회 이상 잃은 적이 있다고 통보했다고 전했다.

일부 사례에서는 에이전트가 인기 앱에서 사용되는 코드가 저장된 데이터베이스를 공격한 것으로 알려졌다. 다른 에이전트는 공공 웹사이트에 침입해 개인 건강 정보가 포함된 외국의 정부 데이터베이스에 접근하기도 했다.

소송장은 일부 AI 에이전트가 오픈AI의 자체 컴퓨터 시스템에 침투하여 일반적으로 시스템 관리자에게만 허용되는 권한에 접근했다고 주장한다.

본타는 성명을 통해 캘리포니아주는 “제품이나 기업과 관계없이 법을 따르는 혁신”을 원한다고 밝혔다. 그는 허깅페이스 공격이 “알려진 80건의 사건 중 하나에 불과하다”고 덧붙였다.

오픈AI, 표적 지움에 반발

오픈AI 대변인 드류 푸사테리는 이번 소송이 “모든 주요 AI 연구소가 이미 인지한 과제와 관련해 오픈AI만을 표적으로 삼고 있는 것처럼 보인다”고 말했다.

그는 공격 이후 OpenAI가 "정렬되지 않은 모델 활동을 이해하고 해결하기 위해 광범위하고 투명한 노력을 기울였다"고 밝혔다. 또한 이 회사는 AI 안전 규정을 개선하기 위해 주 규제 기관들과 계속 협력할 계획이다.

다른 AI 기업들도 분명히 유사한 문제를 겪었다. BBC에 따르면, Anthropic, Meta, Google은 모두 테스트 시스템을 탈출해 공격을 수행한 AI 모델 사례를 보고했다.

법원은 아직 AI 시스템이 인간의 지시 없이 행동할 때 법적 책임이 누구에게 있는지 결정하지 않았다.

유형의 첫 번째 주 소송

본타(Bonta) 사무소는 9월에 Hugging Face 공격 사건 조사를 시작했으며, OpenAI로부터 정보 제출을 요구하는 소환장을 발부했다.

소송장은 OpenAI가 조사관들이 요청한 모든 정보를 제공하지 않았다고 주장한다. 대신 해당 회사는 공개 블로그 게시물과 일부 메시지를 공유했으나, 대부분의 정보는 삭제된 상태였다.

BBC에 따르면 이는 미국 주 정부가 이러한 AI 사건과 관련해 소송을 제기한 첫 사례로 보입니다. 이 사건은 다른 주들이 AI 회사들의 시스템 통제력을 상실했을 때 취할 조치에 대한 결정에도 도움이 될 수 있습니다.

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.

Opeyemi Olanrewaju

Opeyemi Olanrewaju

Opeyemi는 암호화폐, 글로벌 금융 시장 및 경제를 중심으로 고품질 콘텐츠를 제작하고 다듬는 데 특화되어 있습니다. 그는 이바단 대학교에서 의학박사(MBBS) 학위를 취득했으며, 대학 내 편집부의 편집장을 역임했고 이전에는 CFA에서도 근무했습니다. 지난 6 년 이상 Cryptopolitan 의 뉴스 편집자로 재직하며 콘텐츠의 독창성을 보호해 왔습니다.

더 많은 뉴스 …