트럼프, 펜타곤 윤리 분쟁 후 미국 기관에 앤트로픽 AI 사용 중단 명령

도널드 트럼프 미국 대통령은 앤트로픽을 블랙리스트에 올렸으며, AI 기업과 펜타곤 간 군대 기술 적용 문제에 대한 격렬한 논쟁 이후 해당 기술의 연방 금지를 명령했습니다.

현재 앤트로픽과 국방부 간 협상은 양측이 양보하지 않음으로 인해 교착 상태에 빠졌으며, 합의에 도달하기 위한 마감일이 다가오고 있었습니다. 국방부의 요청에관해, 소식통은 미국 국방부 본부 관리들이 앤트로픽의 윤리 가이드라인을 완화할 것을 요구했다고 밝혔습니다. 이를 이행하지 않으면 심각한 결과가 초래될 수 있습니다. 

한편, 트럼프는 트루스 소셜에 게시글을 공유하며 자신의 견해를 밝혔습니다. 게시글에서 그는 “앤트로픽의 좌익 극단주의자들은 국방부를 강압하고 헌법 대신 자체 이용약관을 따르도록 강요함으로써 DISASTROUS MISTAKE(재앙적인 실수)를 저질렀다”고 지적하며, “우리는 국가의 미래를 결정할 것이다 – 현실이 어떤지 이해하지 못하는 사람들이 이끄는 통제 불능의 급진 좌파 AI 기업이 아니다”라고 덧붙였습니다. 주목할 점은 이 시점에서 마감시간이 불과 1시간 남았다는 것이었습니다.

Anthropic-펜타곤 분쟁, 보안 우려 촉발 

이전, Anthropic는 방위성 관리관들이 계약업체로 하여금 합법적인 목적으로 자신의 시스템을 사용할 수 있도록 승인하는 요청을 거부했다. 현재 시점에서 이 AI 기업은 대규모 국내 감시나 완전 자율 무기 사용을 효과적으로 방지하는 제한을 완화하기를 거부했다. 클로드 대규모 국내 감시나 완전 자율 무기 사용을 효과적으로 방지하는 제한을 완화하기를 거부했다.

이 사건의 강도가 상황ion에 비해, 트럼프는 이 사건을 미군과 국가 안보에 대한 중대한 위협으로 규정했다. 성명에서 그는 “그들의 이기심이 미국인의 생명을 위험에 빠뜨리고, 우리 군대를 위험에 노출시키며, 국가 안보를 위태롭게 하고 있다”고 주장했다. 

트럼프의 주장 이후, 보도는 Sam Altman(OpenAI CEO)이 상황을 진정시키기 위해 노력했음을 강조했다. 그럼에도 불구하고, 여러 분석가들은 긴장 완화 작업이 여전히 어려운 과제.

라고 인정했다. 한편, Pete Hegseth 미국 국방장관은 Anthropic를 공급망 위험으로 규정하는 것이 미군 벤더와 AI 기업 간의 연결을 종료할 위협이 될 수 있다고 주장했다.

Hegseth는 약 24시간 전에 Anthropic의 CEO인 Dario Amodei가 방위성의 요청을 준수할 수 없다는 성명을 발표한 후 이러한 발언을 했다. 그에 따르면, 해당 요청은 Anthropic의 양심에 반하는 것이었다.

이 상황은 분석가들로 하여금 연구를 수행하게 했으며, 그 결과 방위 계약 분쟁이 국가 안보 분야의 AI를 중심으로 하고 있음이 드러났다. 한편, 수개월간의 비공개 대화 끝에 AI 기업은 최근 논의를 공개하기로 결정했으며, 타협책으로 제시된 새로운 계약 조항이 법적 전문 용어로 작성되어 명시된 보호 조치가 지속적으로 무시될 수 있도록 만들었다고 지적했다.

AI 붐 시대, 여러 기업 사이에서 생성형 AI 인기 확보 

Anthropic와 펜타곤 간의 격렬한 갈등과 관련하여, 보도는 생성형 AI 분야가 인간 창의성을 모방한 현실적이지만 부정확한 소프트웨어 코드, 텍스트, 이미지 및 기타 출력을 생성하기 위해 고급 모델을 활용한다고 강조했다. 이러한 결과를 달성하기 위해, 일부 출처는 모델이 사용자 입력에 대한 문맥 인식 응답을 생성하기 위해 훈련 데이터의 기본 패턴을 식별하는 방식으로 작동한다고 지적했다.

현재 시점에서, 생성형 AI가 단순 분석을 넘어 적극적으로 콘텐츠를 생성한다는 점은 주목할 만하다. 분석가들의 연구에 따르면, 이 기능은 방어를 포함한 수많은 산업에 혁명을 일으킬 수 있다. 동시에 이러한 모델을 개발하는 것은 윤리적 우려와 잠재적 존재론적 위험을 포함하여 심각한 과제를 안고 있다.

그럼에도 불구하고, 여러 기업은 이 분야에 막대한 자금을 할당하는 데 강한 의지를 보여주고 있다. 예를 들어, 방위성 관리관들은 지난 여름 주요 산업 플레이어인 OpenAI, Anthropic, Google, xAI와의 개별 계약을 확보했다고 주장하는 성명을 발표했다. 특히 각 계약은 프론티어 인공지능 이니셔티브를 위해 2억 달러로 평가된 것으로 보고되었다.

현재 시점에서, 보도는 Anthropic가 AI 기술의 책임감 있는 개발과 배포에 헌신적인 기업으로 자신을 규정하고 있음을 강조했다. 이 헌신을 강조하기 위해, 기업은 자신을 ‘공익 법인(Public Benefit Corporation)’으로 규정하며, 인류의 장기적인 이익을 위해 안전하고 고급 AI를 개발하고 유지하는 데 대한 헌신을 주장한다.