전문가들의 안전 우려 속 오픈AI, 펜타곤 시스템에 맞춤형 ChatGPT 통합

오픈AI는 월요일 국방부의 보안 엔터프라이즈 AI 플랫폼인 GenAI.mil에 맞춤형 버전의 ChatGPT를 배포한다고 발표했습니다. 이 파트너십은 300만 명의 민간 및 군사 인력에게 임무 준비도, 연구, 행정 워크플로우를 향상시키는 AI 도구를 제공할 예정입니다.

오픈AI는 GenAI.mil에서 다른 최첨단 AI 연구소들과 함께 참여함으로써 펜타곤과의 협력을 확대하고 있습니다. 이 AI 기업은 이전에 DARPA와 협력하여 사이버 방어 이니셔티브를 지원한 바 있습니다. 

올초 오픈AI는 또한 국방부의 수석 디지털 및 인공지능 사무소(CDAO)와 최첨단 AI가 펜타곤 운영을 어떻게 개선할 수 있는지 조사하기 위한 시범 프로그램을 시작했습니다.

오픈AI, 군사 작전을 위한 안전 장치가 적용된 맞춤형 ChatGPT 배포

오픈AI는 국가 방어를 책임지는 사람들이 이용 가능한 가장 진보된 자원에 접근할 수 있어야 한다고 밝혔습니다. 회사는 적절히 보호될 때 AI가 사람들을 보호하고 적을 억제하며 갈등을 예방하는 방법을 미국 및 기타 민주주의 국가들이 이해하는 데 어떻게 중요한지 강조했습니다. 

OpenAI 공개했다 안전하고 효율적인 정부 사용을 용이하게 하고 미국 군인에게 신뢰할 수 있는 AI 기능을 제공하기 위해 GenAI.mil에 ChatGPT를 통합하고 있습니다.

“우리는 GenAI.mil(새 창에서 열기)과 같은 노력에 참여함으로써 정부 전반에 걸쳐 AI가 배포되는 방식에 대한 기술적 규범을 형성하는 데 도움을 줌으로써 이를 가장 잘 달성할 수 있다고 믿습니다,”라고 회사는 발표에서 말했습니다.

오픈AI는 GenAI.mil 버전의 ChatGPT가 비비밀 등급의 국방부 사용이 승인된 정부 클라우드 인프라에서 운영될 것이라고 말했습니다. 회사에 따르면 시스템에는 민감한 데이터를 보호하도록 설계된 안전 장치가 포함되어 있습니다.

이 기술 기업은 GenAI.mil에 ChatGPT를 통합하는 것이 기업이 정부 업무를 더 광범위하게 접근하는 방식, 즉 집중적이고 실용적이며 안전을 우선시하고 실제 사용에 기반한 접근 방식을 반영한다고 추가로 밝혔습니다.

그러나 퍼블릭 시티즌(Public Citizen)의 빅테크 책임 옹호자 J.B. 브랜치는 사용자가 AI에 과도하게 의존하면 이러한 안전 장치가 훼손될 수 있다고 경고했습니다.

브랜치는 연구에 따르면 사람들이 이러한 대규모 언어 모델을 사용할 때 그들에게 이점을 부여하는 경향이 있다고 주장했습니다. 그는 “따라서 군사 작전과 같은 고영향력 상황에서는 정확성을 보장하는 것이 더욱 중요합니다,”라고 덧붙였습니다.

오픈AI는 맞춤형 ChatGPT 버전이 비비밀 데이터 전용으로 의도되어 있다고 밝혔지만, 브랜치는 민감한 데이터를 AI 시스템에 맡기는 것이 공격자에게 노출될 수 있다고 경고하며, 사용자가 이러한 기술을 안전한 피난처로 오인하는 경우가 많다고 지적했습니다.

그는 기밀 자료는 소수만 볼 수 있어야 한다고 주장했습니다. 그는 군사 전용 차단 시스템조차도 기밀 정보에 대한 접근이 여전히 제한되어 있다는 현실을 바꾸지 않는다고 덧붙였습니다.

펜타곤, 우위 유지를 위해 AI 통합 가속화

이 배포는 AI 개발자들이 재무적 성공을 추구하는 동안 펜타곤이 군사 네트워크 전반에 상업용 AI 통합을 가속화하는 시기에 이루어집니다.

피트 헤게셋 국방장관 말했다. 1월 펜타곤이 기밀 및 비비밀 군사 네트워크 모두에서 선도적인 AI 모델을 사용할 의도라고 밝혔습니다. 헤그셋은 국방부가 전선 작전과 내부 계획 시스템을 포함하여 “모든 영역에서 AI 우선 전투력을 갖춘 군대”를 구축하고자 한다고 말했습니다.

헤그셋에 따르면 21세기 기술적 우위를 위한 전략적 싸움은 미국이 승리해야 합니다. 그는 장거리 드론, 자율 시스템, 양자 기술, 초음속 무기 및 인공지능을 중요한 분야로 꼽았습니다.

“엘론 머스크와 충분히 이야기하면 초음속 무기와 장거리 드론의 중요성에 대해 이야기할 것입니다. 그리고 그는 100% 옳습니다. 우주 능력, 지향성 에너지 및 생명공학은 새로운 글로벌 경쟁 분야입니다.”

-피트 헤그셋, 미국 국방부 장관.

그는 또한 펜타곤이 시작할 것이라고 추가로 밝혔습니다. 활용 그로크(Grok)를 참조하여 머스크와 트럼프 행정부 간의 재확립된 유대를 나타냅니다. 헤그셋은 AI 능력이 전 세계적으로 확산됨에 따라 미국의 군사적 우위를 유지하는 것이 목표라고 말했습니다.

헤그셋은 국방부가 경쟁자들이 기술을 남용하여 미국 시민이나 국가 안보를 위협하는 것을 방지하기 위해 미국의 군사 AI 우위를 보장해야 한다고 덧붙였습니다. 헤그셋은 AI 능력이 전 세계적으로 계속 확장됨에 따라 이 우위를 유지하는 것이 필수적이라고 강조했습니다.