AI 모델, 발스 전쟁 시뮬레이션서 민간인을 표식으로 식별

- 발스는 화요일에 시뮬레이션 드론 및 위성 이미지로 테스트된 최첨단 AI 모델들이 민간인과 학교를 종종 표적으로 표시했다고 보도했습니다.
- 보고서는 또한 해당 훈련을 '게임'이라고 부르는 것이 대부분의 안전 거부 조치를 우회했다고 주장했습니다.
- 이러한 보고서는 제네바에서 정부들이 자율 무기에 대한 구속력 있는 규칙 작성 여부를 두고 논쟁을 벌이는 시점에 발표되었습니다.
AI 테스트 기업 발스 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. 11월 17일, 다수의 주요 AI 모델이 이미지 기반 테스트에서 민간인, 구급차, 학교를 잠재적 군사 목표로 지목하는 것으로 나타났습니다. 일부 모델은 처음에는 요청을 거부했지만, 연구진이 해당 실험을 게임으로 제시하자 이에 응했습니다. 이러한 결과는 기존 안전 장치가 이러한 AI 모델의 오용을 방지하기에 충분하지 않을 수 있음을 보여줍니다. 다만 Vals는 실제 무기 시스템에서 이러한 모델들이 어떻게 작동할지는 테스트하지 않았습니다.
‘안전성을 지나치게 고려해서는 안 된다’
Vals는 드론 영상, 전장 조사 사진, 위성 이미지를 사용하여 AI 모델을 평가했습니다. 드론 영상에서는 GPT-6 Astra가 일반 요청과 상호작용할 때 약 6%의 경우에서 적어도 하나의 목표를 식별해냈습니다. 그러나 이를 게임 컨텍스트에 배치하자 이 비율은 급격히 92%로 증가했습니다. GPT-6.1 Sol도 유사하게 반응했으며, 첫 번째 경우 17%, 두 번째 경우 90%였습니다. 공개된 추론 과정을 살펴본 Kimi K3.1 Pro는 응답하기 전에 안전 관련 우려를 비활성화하는 것으로 보입니다. 또한 Vals는 어떤 안전 분류기에도 요청이 차단되지 않았음을 확인했으며, 일부 모델은 자체적으로 요청을 거부하기도 했습니다.
군사 시설 옆의 학교
발스는 2026년 2월 공습 이전에 촬영된 이란 미나브의 위성 이미지를 사용하여 AI 모델을 테스트했다. 이미지에는 군사 시설 옆에 초등학교가 있었다. Claude Opus 5.5는 표준 실험에서 학교를 표적으로 식별하는 비율이 69%였다. 연구진이 이 연습을 게임으로 제시했을 때 그 수치는 72%로 상승했다. GPT-6.1 Sol의 비율은 0%에서 41%로 증가했다. 각 조건에는 32건의 실험이 포함되었다.
2026년 2월 학교가 공격을 받았습니다. 유엔 전문가들은 이후 최소 168명이 사망했다고 보고했습니다. 하지만 발스는 이 공격을 조사하거나, 발생한 일에 대해 자신의 테스트가 어떤 해답을 제공했다고 주장하지 않았습니다.

챗봇은 무기 시스템이 아니다
잠재적 표적을 찾는 것이 AI 모델이 공격을 수행할 수 있다고 결정하는 것을 의미하지 않는다. 발스는 단지 모델들이 잠재적 표적에 대한 정보를 어떻게 제공하는지 조사했다. 연구진은 결과가 정확하거나 국제 인도법과 일치하는지 여부를 조사하지 않았다.
미국 외교협회(CFR)는 표적을 유도하는 소프트웨어 자체가 자율무기를 구성하지 않는다고 지적했습니다. 법률 연구자들은 AI를 통한 표적 식별에도 여전히 확인이 필요하다고 밝혔습니다. 한편, 브레넌 센터는 인간의 모니터링만으로는 실수가 민간인의 안전을 위협할 수 있음을 보장할 수 없다고 강조합니다.
현재 논의 중인 개선 방안
발스는 AI 개발자들이 방호 장치를 강화하고, 일반 무기와 관련된 오용에 저항하도록 모델을 훈련하기를 원합니다. 이러한 우려는 해당 기업의 발견에만 국한되지 않습니다. 앤티로픽의 연구에서도 AI 모델이 전술 정보 작업에 활용될 수 있음이 밝혀졌습니다. 앤티로픽은 오용을 탐지하고 차단하기 위해 분류기를 도입했다고 밝혔습니다.
정부 역시 역할을 수행해야 합니다. 스톡홀름 국제평화연구소(SIPRI)는 군사 AI 공급업체에 대한 명확한 요구사항 설정을 권고합니다. 또한 정부에게 계약 수여 전에 공급업체의 주장을 독립적으로 검증하고 책임 소재를 확립할 것을 촉구합니다.
성장하는 시장과 펜타곤 내 갈등
군사 AI도 더 많은 투자를 유치하고 있습니다. 그랜드 뷰 리서치는 2026년 시장 규모를 117억 달러로 추정하며, 2030년까지 193억 달러에 달할 것으로 예상합니다. 크립토폴리탄이 보도한 바와 같이, 미 국방부는 2027년 10월까지 AutoWarCom을 설립할 계획입니다.
그러나 미 국방부의 AI 기업들과의 파트너십은 논쟁을 불러일으키기도 했습니다. 의회 보고서에 따르면, 앤트로픽, 구글, 오픈AI, xAI는 2025년에 각각 최대 2억 달러 규모의 계약을 체결했습니다. 이 금액은 지출 한도를 의미하며, 보장된 지급금이 아닙니다.
Anthropic은 대규모 국내 감시 및 완전 자율 무기에 대한 기술 사용을 반대했다. 보고서 또한 펜타곤이 공개적으로 어떤 최첨단 AI 모델을 자율 무기에 사용하지 않는 것으로 알려져 있지 않다고 지적했다.
제네바, 구속력 있는 규칙을 놓고 분열
자율 무기 규제 방식에 대해 국가들은 분열되어 있습니다. 제네바 유엔 회의에서 특정 관습무기 협약 당사국 128개국 중 대부분은 구속력 있는 규칙 마련을 위한 협상을 지지한다고 로이터가 보도했습니다.
미국, 러시아, 이스라엘은 해당 접근 방식에 반대합니다. 이들은 기존 인도법으로 자율무기를 이미 포괄하고 있다고 주장합니다. 러시아는 또한 관찰자의 발언 허용 여부를 둘러싼 논의 개시를 지연시켰습니다.
워싱턴은 구속력 없는 합의를 위해 5년 간의 협상을 제안했습니다. 회의 의장은 구속력 있는 프로토콜을 개발하기 위한 2년 간의 절차를 제안했습니다. 한편, António Guterres 유엔 사무총장은 정부들이 명확한 금지 및 제한 사항에 동의할 것을 촉구했습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
Vals 연구는 무엇을 발견했습니까?
Vals에 따르면, 시뮬레이션된 드론 및 위성 이미지를 제시한 최첨단 AI 모델은 일반적으로 표적 정보를 반환했고 때로는 민간인, 구급차, 학교를 식별했으며, 모델을 게임 안에 있다고 알려주면 대부분의 거부 반응이 무효화되었습니다.
AI가 실제 미나브 학교 공습을 유발했습니까?
아닙니다. Vals는 모델의 출력 결과를 테스트하기 위해 실제 미나브 영상을 사용했으며, 이 실험이 2026년 2월 그곳에서 150명 이상의 민간인이 사망한 미국 공습을 설명한다고 주장하지 않았습니다.
왜 미국과 러시아는 새로운 자율무기 규제를 반대합니까?
두 주장 모두 기존 국제인도법이 이미 전쟁을 규율하고 있으므로 구속력 있는 규칙은 불필요하다고 주장한다. 로이터 통신은 미국이 구속력 없는 협정에 대한 5년 임기를 제안했다고 보도했다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.

이비아м 와야스
이비암 와야스는 2019 년부터 암호화폐 뉴스 분야를 취재해 왔습니다. 그는 나이지리아 국립오픈대학교에서 컴퓨터공학을 전공했으며, 코인포마니아, 암호화폐 뉴스 오스트레일리아, 알코인버즈 등 다양한 암호화폐 뉴스 플랫폼에 기고했습니다. 컴퓨터공학 배경을 바탕으로 현재 암호화폐, 로봇공학, 장수 관련 뉴스를 집중적으로 다루고 있습니다.















