미국 펜타곤, 상위 AI 기업들과 비비밀 시스템에 도구 배포에 대한 협상 강화

펜타곤은 주요 인공지능 기업들에게 미국 군대가 비비밀 시스템 내에서 그들의 도구에 접근할 수 있도록 하도록 실제적인 압력을 가하고 있다.

당국자들은 단순히 기본 접근 권한을 요구하는 것이 아니다. 그들은 이러한 AI 모델이 기업들이 사용자에게 부과하는 일반적인 제한 없이 작동하기를 원한다.

화요일 백악관 회의에서 펜타곤의 수석 기술 책임자 에밀 마이클은 기술 리더들에게 군대가 이러한 AI 모델이 비비밀 및 비비밀 네트워크 모두에서 실행되기를 원한다고 말했다.

협상에 가까운 한 관계자는 정부가 이제 군사적 사용의 모든 수준에 ‘프런티어 AI 능력’을 도입하기로 결정했다고 주장했다.

펜타곤, 보안 네트워크 전반에 제한 없는 접근 요구

이러한 추진은 향후 전투에서 AI가 어떻게 사용될지에 대한 더 큰 논의의 일부다. 이미 드론 군집, 로봇, 그리고 끊임없는 사이버 공격으로 전쟁의 양상이 형성되고 있다. 펜타곤은 기술 세계가 허용되는 범위에 선을 그을 때 따라잡기를 원하지 않는다.

현재 군대와 협력하는 대부분의 기업들은 모델의 약화된 버전을 제공하고 있다. 이들은 관리 작업에 사용되는 개방형 비비밀 시스템에서만 실행된다. Anthropic은 유일한 예외이다.

클로드는 일부 비비밀 설정에서 사용할 수 있지만, 제3자 플랫폼을 통해서만 가능하다. 그럼에도 불구하고 정부 사용자는 여전히 Anthropic의 규칙을 따라야 한다.

펜타곤이 원하는 것은 매우 민감한 비비밀 네트워크 내부로의 직접적인 접근이다. 이러한 시스템은 임무 계획이나 목표 고정 등에 사용된다. 클로드나 ChatGPT와 같은 챗봇이 이러한 네트워크에 언제, 어떻게 설치될지는 명확하지 않지만, 그것이 목표이다.

당국자들은 AI가 방대한 양의 데이터를 처리하고 의사결정자에게 빠르게 피드백할 수 있다고 믿는다. 그러나 이러한 도구가 잘못된 정보를 생성하면(그리고 그들은 그럴 것이다), 사람들이 죽을 수 있다. 연구자들은 정확히 그 점을 경고해 왔다.

OpenAI은 이번 주 펜타곤과 계약을 체결했다. ChatGPT는 이제 genai.mil이라는 비비밀 네트워크에서 사용될 예정이다. 해당 네트워크는 이미 국방부 전역의 300만 명 이상의 직원에게 도달하고 있다.

계약의 일환으로 OpenAI는 일반적인 사용 제한의 대부분을 제거했다. 여전히 일부 가드레일이 유지되고 있지만, 펜타곤은 그들이 원하는 것의 대부분을 얻었다.

회사 대변인 은 비비밀 사용으로의 확장은 새로운 계약이 필요하다고 말했다. 구글과 일론 머스크의 xAI도 과거에 유사한 계약을 체결했다.

AI 연구원들이 퇴사하며 위험성을 지적

Anthropic과의 협상은 그렇게 쉽지 않았다. 회사 리더들은 펜타곤에게 자동 목표 지정이나 미국 내 사람 감시에 그들의 기술이 사용되기를 원하지 않는다고 말했다.

클로드는 이미 일부 국가 안보 임무에서 사용되고 있지만, 회사 임원들은 반발하고 있다. 성명서에서 대변인은 다음과 같이 말했다:-

“Anthropic은 미국의 AI 리드를 보호하고, 가장 진보된 AI 기능에 군 작전 요원들이 접근할 수 있도록 함으로써 미국 정부가 해외 위협에 대응하는 것을 돕는 데 전념하고 있습니다.”

그들은 Claude가 이미 사용 중이며, 회사가 이제 국방부라고 불리는 부처와 긴밀히 협력 중이라고 밝혔다. 도널드 트럼프 대통령은 최근 국방부에 해당 명칭을 채택하라고 지시했지만, 의회의 승인이 여전히 필요하다.

이 모든 일이 진행되는 동안, 이러한 기업들의 연구원 다수가 사직하고 있다. Anthropic의 수석 안전 연구원 중 한 명은 사임하며 “세상이 위기에 처해 있다”고 말했다. OpenAI의 한 연구원도 사직하며, 해당 기술이 “우리가 이해할 도구는 물론이고 예방할 수 있는 수단조차 없는 방식으로 사용자를 조종할 잠재력”이 있다고 밝혔다.

떠나는 사람들 중 일부는 조용히 떠나지 않는다. 그들은 일이 너무 빠르게 진행되고 위험이 무시되고 있다고 경고한다. OpenAI에서 2년 동안 근무한 Zoë Hitzig는 이번 주 사임했다.

그녀의 에세이에서 그녀는 회사가 광고 도입을 계획하는 방식에 대해 “깊은 우려”를 표명했다. 또한 그녀는 ChatGPT가 사람들의 사적 데이터, 즉 “의료적 공포, 인간관계 문제, 신과 내세에 대한 신념” 등을 저장한다고 말했다.

그녀는 이것이 큰 문제라고 말했다. 사람들은 채팅봇을 신뢰하며, 그것이 숨겨진 의도를 가지고 있다고 생각하지 않기 때문이다.

그와 시기를 같이하여, 기술 매체 Platformer는 OpenAI가 미션 얼라이언스 팀을 해체했다고 보도했다. 이 팀은 2024년 설립되어, 인류 전체를 돕는 AI를 구축한다는 회사의 목표가 실제로 의미를 갖도록 보장하는 역할을 했다.