Anthropic, AI 안전장치 제거를 위한 펜타곤의 잔인한 최후통첩 거부

앤트로픽은 는 Anthropic은 미국 국방부(DoD)와의 분쟁에서 물러서지 않을 것이며, 이는 인공지능(AI) 기술의 사용 방식에 관한 것입니다.

이 스타트업의 경쟁사 OpenAI, Google, 그리고 xAI 도 작년 국방부로부터 최대 2억 달러의 계약 수주를 받았습니다. 해당 기업들은 국방부가 비비밀 시스템 내에서 합법적인 목적으로 자신의 모델을 사용할 수 있도록 허용하기로 동의했습니다.

Anthropic은 7월 국방부와 2억 달러의 자체 계약을 체결했으며, 비공개 네트워크의 임무 워크플로우에 자체 모델을 통합한 첫 번째 연구소였습니다.

그러나 이 인공지능 스타트업은 최근 몇 주 동안 펜타곤과 긴장된 협상을 진행해 왔습니다. 협상에 정통한 한 관계자는 협상에서의 긴장감이 “수개월 전으로 거슬러 올라간다”고 말했으며, 이는 클로드가 베네수엘라 대통령 니콜라스 마두로 체포를 위한 미국 작전의 일부로 사용되었다는 사실이 공개되기 전의 일입니다.

핵심 분쟁 초과 감시 및 자율적 무기

Anthropic은 자신의 모델이 완전 자율 무기나 미국인의 대규모 국내 감시에 사용되지 않을 것이라는 보장을 원하는 반면, 국방부는 이러한 제한 없이 모델을 사용할 수 있기를 원합니다.

이러한 구체적인 위험과 관련하여 Dario Amodei는 성명에서 “좁은 범위의 사례에서 우리는 AI가 민주적 가치를 방어하는 대신 훼손할 수 있다고 믿습니다. 일부 사용법은 오늘날 기술이 안전하고 신뢰할 수 있게 수행할 수 있는 범위를 벗어납니다.”라고 말했습니다.

감시 우려를 확장하며, Dario Amodei는 성명에서 강력한 AI가 “산발적이고 개별적으로는 무해한 데이터를 자동으로 그리고 대규모로 수집하여 어떤 한 사람의 삶을 포괄적으로 파악할 수 있게 한다”고 말했습니다.

그는 Anthropic이 합법적인 대외 정보 수집을 위해 AI를 사용하는 것을 지지하지만 “대규모 국내 감시에 이러한 시스템을 사용하는 것은 민주적 가치와 양립할 수 없다”고 덧붙였습니다.

위협, 마감일, 그리고 말다툼

화요일 펜타곤에서 Amodei와 회담한 Pete Hegseth 국방장관은 Anthropic을 “공급망 위험”으로 지정하거나 국방생산법을 발동하여 회사의 요구사항을 준수하도록 강요하겠다고 위협했습니다. 국방부는 수요일 밤 Anthropic에게 “마지막이자 최종 제안”을 보내 금요일 오후 5시 01분(동부 표준시)까지 결정을 내리도록 했습니다.

Anthropic 대변인은 수요일 밤 업데이트된 문구를 받았지만, 이는 “거의 진전이 없으며” “새로운 언어로 제시된 양보는 이러한 안전장치를 임의로 무시할 수 있게 하는 법적 용어와 함께 제공되었다”고 말했습니다.

이러한 압력에 대응하여 Dario Amodei는 성명에서 “전쟁부는 ‘합법적인 모든 사용’에 동의하고 위에서 언급된 사례에서 안전장치를 제거한 AI 기업과만 계약할 것이라고 밝혔습니다. 그들은 이러한 안전장치를 유지할 경우 시스템에서 우리를 제거하겠다고 위협했으며, 우리를 ‘공급망 위험’으로 지정하겠다고도 위협했습니다. 그럼에도 불구하고 이러한 위협은 우리의 입장을 바꾸지 않습니다: 우리는 양심에 따라 그들의 요청에 동의할 수 없습니다.”라고 말했습니다.

주요 펜타곤 대변인 Sean Parnell은 목요일에 국방부가 “완전 자율 무기”에 Anthropic의 모델을 사용하거나 불법인 미국인의 대규모 감시를 수행할 “관심이 없다”고 밝혔습니다. 그는 기관이 회사가 자신의 모델을 “모든 합법적인 목적”으로 사용할 수 있도록 허용하는 데 동의하기를 원하며, 이를 “간단하고 상식적인 요청”이라고 강조했습니다.

그러나 미국 국방부 차관 Emil Michael 은 목요일 밤 Amodei를 개인적으로 공격하며 X에 “그는 미국 군대를 개인적으로 통제하려는 것以外에는 아무것도 원하지 않는다”고 썼습니다. Michael은 “Dario Amodei가 거짓말쟁이이고 신 complexes를 가지고 있다는 것은 유감입니다.”라고 덧붙였습니다.

한편, 공개 서한에서 Google과 OpenAI의 200명 이상의 직원이 Anthropic의 입장을 지지했습니다. 전 국방부 관계자는 Hegseth가 ‘공급망 위험’이라는 용어를 사용하는 이유에 대한 설명이 “매우 허술하다”고 BBC에 말했습니다.

분쟁에도 불구하고, Dario Amodei는 성명에서 AI를 사용하여 미국을 방어하는 것의 “존재적 중요성”에 대해 “깊이 공감한다”고 밝혔습니다. Anthropic 대변인은 “조직은 여전히 대화를 계속할 준비가 되어 있으며 국방부와 미국의 전사들을 위한 운영 연속성에 전념하고 있다”고 말했습니다.