앤스로픽, 판사가 펜타곤의 AI 블랙리스트를 무효화하며 주요 법적 승리

미국 연방 판사 리타 린(Rita Lin)은 방위부가 앤스로픽에 “공급망 리스크” 지정을 통해 불법적으로 제재했다고 판결했습니다. 올해 초, 협상이 결렬된 후 방위부는 이 회사를 국가 안보 위험으로 규정했습니다. 당시 앤스로픽은 대규모 감시와 완전 자동화된 전쟁을 금지하는 윤리적 가드레일을 고수하고 있었습니다. 

법원은 이제 방위부가 공급망 권한을 무기로 사용하여 앤스로픽을 공개적으로 제재했다고 판단했으며, 정부가 국가 안보 주장을 위한 논리적 근거가 부족했다고 지적했습니다.

“헌법이나 피고인들이 인용한 연방법은 그들이 앤스로픽의 행정부 견해 비판을 주로 근거로 광범위한 제재를 부과할 수 있게 하지 않습니다,” 판사 린은 주장했습니다.

판사 린은 앤스로픽을 블랙리스트에 올린 정부의 결정을 임의적이라고 비판했습니다

오랫동안 펜타곤은 앤스로픽을 포함한 4대 주요 AI 기업들과 협상을 진행해 왔으며, 군대가 고도로 민감한 방위 및 정보 작전에 그들의 기술을 사용할 수 있도록 허용하는 것이었습니다. 그러나 클로드를 만든 앤스로픽은 대규모 감시와 자율적 전쟁이 자체 모델에 대해 허용되지 않는다고 주장하며 입장을 고수했습니다.

점점 긴장된 대화 끝에 협상은 완전히 결렬되었습니다. 앤스로픽은 3월에 미국 기업으로는 최초로 공급망 위험으로 지정되었으며, 이는 효과적으로 방위 계약업체들이 펜타곤 관련 프로젝트에서 자체 기술을 사용하지 못하도록 차단했습니다.

나중에 앤스로픽은 샌프란시스코와 워싱턴 D.C.의 법원에서 트럼프 행정부를 상대로 소송을 제기하여 공급망 위험 지정을 뒤집으려 했습니다. 그러나 방위부는 두 가지 다른 법적 권한을 고수했으며, 앤스로픽은 두 법원에서 별도의 사건을 진행해야 했습니다.

 목요일의 판결은 앤스로픽에게 막대한 승리였지만, 워싱턴 D.C.에서의 병행 사건은 여전히 진행 중이므로 회사의 보안 위험 상태가 완전히 해제된 것은 아닙니다.

판사 린은 판결문에서 “이의 제기된 기록은 도전된 조치가 제1수정헌법을 위반한 불법적인 보복이었으며, 앤스로픽이 제5수정헌법에 따라 요구되는 사전 절차에서 배제되었음을 입증합니다”라고 썼습니다. 그녀는 또한 정부의 결정을 임의적이고 자의적이라고 묘사했습니다. 

이 판결은 AI-정부 분쟁에 선례를 남길 수 있습니다

결정이 명확한 시야를 가지지는 못할 수 있지만, 앤스로픽의 사건은 더 즉각적인 영향을 미칠 것입니다. 미국 정부는 방위 및 국가 안보를 위해 AI 기업과의 유대를 강화하려고 하고 있습니다.

이 사례는 기업들이 보호하려는 고급 AI 시스템에 대한 정부의 요구가 점점 더 커지는 상황에서, 모델을 어떻게 그리고 왜 사용할지에 대한 질문이 의문시되고 있음을 보여줍니다.

앤스로픽의 대규모 감시 및 자율 무기 입장은 이 논쟁의 중심에 서게 했습니다. AI 기업들은 점점 더 정부에 강력한 모델을 제공하고 있지만, 이 판결은 연방 기관이 그러한 행동을 규제하는 법적 요구 사항을 충족하지 않고 정부 정책에 동의하지 않는다는 이유로 기업을 단순히 처벌할 수 없음을 시사합니다.

이 사건은 다른 AI 개발자들이 군사 애플리케이션에 명확한 제한을 두는 데 더 적극적이 되도록 만들 수도 있습니다. 동시에 펜타곤은 특히 이러한 제한이 논란이 되는 국가 안보 애플리케이션과 관련된 경우, 기술 사용에 제한을 두는 기업들을 다루는 방식을 재고해야 할 필요가 있을 수 있습니다.

앤스로픽은 이후 린 판사의 판결을 환영했습니다. 회사는 “우리는 이 공급망 위험 지정이 불법이라는 법원의 판결을 환영합니다. 우리는 모든 미국인이 이 기술의 혜택을 받을 수 있도록 국가 안보를 위해 AI를 활용하기 위해 정부와 생산적으로 협력하는 데 집중하고 있습니다.”라고 밝혔습니다.

이전에도 해당 회사는 소송을 제기한 목적이 펜타곤과의 파트너십 재개를 강요하기보다는 평소의 비즈니스로 돌아가기 위함이라고 밝힌 바 있습니다.

앤스로픽은 새로운 하드웨어 표준을 도입합니다

한편, 앤스로픽은 방금 AI 어시스턴트가 실험실 및 공장에서 사용되는 로봇 및 특수 장비와 연결하는 데 도움이 될 수 있는 새로운 표준을 개발했습니다. 회사는 모델 하드웨어 표준(MHS)을 연구 프리뷰로 출시하여 로봇, 과학, 공장 개발자들에게 완전 출시 전에 실제 상호 작용을 테스트하고 안전 버그를 해결할 기회를 제공합니다. 

회사에 따르면, 이 표준은 AI 어시스턴트가 매뉴얼이나 소수의 전문가 그룹에 의존하는 대신 물리적 장비를 이해하고 작동하기 위한 명확한 지침 세트를 제공하게 됩니다. 또한 회사와 기타 산업 이해관계자들이 프리뷰 기간 동안 MHS 테스트에 등록할 수 있다고 밝혔습니다. 회사는 프리뷰가 종료되면 프레임워크를 오픈 소스로 공개할 계획이지만, 그 시기는 명시하지 않았습니다. 

“MHS를 통해 클로드는 과학자들이 전문가처럼 적절한 장비를 사용할 수 있도록 하는 그러한 촉진제가 될 수 있습니다,” 앤스로픽의 생명과학 부문 파트너십 및 배포 책임자 조나 쿨(Jonah Cool)은 말했습니다. 

과거의 성공을 바탕으로, 회사는 AI 어시스턴트와 구글 캘린더 및 슬랙과 같은 소프트웨어 간의 격차를 해소하기 위해 모델 컨텍스트 프로토콜(MCP)을 도입했습니다. 

“MCP가 소프트웨어를 위해 수행한 것처럼, MHS는 하드웨어 세계를 위해 수행할 것입니다,” 앤스로픽의 기술 직원 알렉 케메니(Alek Kemeny)는 말했습니다.