미국 정부 내 Grok AI의 역할에 대한 윤리 우려 고조

Elon Musk의 정부 효율성 부서(DOGE)는 연방 기관 전반에 걸쳐 그의 Grok AI 채팅봇의 적응 버전을 조용히 출시했으며, 이는 잠재적인 개인정보 유출 및 이해상충에 대한 경고를 불러일으켰습니다.

Reuters는 DOGE 내부의 세 소식통을 인용하여, 팀이 Grok을 사용하여 민감한 정부 데이터를 선별하고 분석하며, 기존 방법보다 빠른 속도로 보고서와 통찰력을 생성해 왔다고 전했습니다.

DOGE, Grok AI 조치로 윤리 위반

세 소식통에 따르면, DOGE 엔지니어들은 Musk의 xAI가 2023년 말에 출시한 채팅봇인 Grok 위에 사용자 지정 매개변수를 설치하여 데이터 검토를 가속화하고 보고서 작성을 자동화했습니다.

“그들은 정부 데이터 세트를 입력하고 복잡한 질문을 하며 즉각적인 요약을 받습니다.”

한 내부 소식통.

다른 내부 소식통은 DOGE 직원이 공식 기관의 승인을 받지 못한 도구임에도 불구하고, 국토안보부(DHS) 직원들에게 내부 분석을 위해 Grok 사용을 장려했다고 덧붙였습니다.

불분명한 점은 Grok에 정확히 어떤 기밀 또는 개인 식별 정보가 업로드되었는지, 그리고 연방 기록을 얼마나 많이 학습시켰는지입니다. 민감한 자료가 포함되었다면, 이러한 관행은 연방 개인정보 보호 법령 및 이해상충 규칙을 위반할 수 있습니다.

윤리 및 기술 전문가 5명은 이러한 접근이 Musk의 회사들에게 비공개 계약 데이터에 대한 불균형적인 통찰력을 제공하고, 심지어 Grok 자체를 사적 이익을 위해 정제하는 데 도움이 될 수 있다고 경고합니다.

이론적으로, 기밀 정부 데이터 세트로 학습된 모든 AI 모델은 엄격한 법적 보호 장치를 준수해야 합니다. 데이터 공유 프로토콜은 일반적으로 무단 유출을 방지하기 위해 여러 번의 승인 및 감독을 포함합니다.

이러한 검증을 우회함으로써 DOGE는 수백만 미국인의 개인 정보를 노출시키고, 경쟁사들에게 이용 불가능한 방대한 양의 실제 정보를 xAI에 제공하는 위험에 처해 있습니다.

DOGE는 임무가 낭비, 사기 및 남용을 근절하는 것이라고 주장합니다. DHS 대변인은 Reuters에 DOGE가 직원들에게 특정 도구 채택을 강요하지 않았다고 말했습니다.

“우리는 효율성에 집중하고 있습니다.”라고 대변인이 말했습니다. 그러나 두 소식통은 최근 몇 주 동안 DOGE 대표들이 이민 사건 처리량 분석부터 예산 예측에 이르기까지 다양한 작업을 위해 DHS 부서에 Grok 시도를 추진했다고 반박했으며, 이는 DHS가 데이터 유출 우려로 인해 모든 상용 AI 플랫폼을 갑자기 차단한 이후의 일입니다.

현재 DHS 정책 하에서 직원들은 기밀이 아닌 비기밀 작업에만 상용 채팅봇을 사용할 수 있으며, 민감한 기록은 맞춤형 DHS AI가 처리합니다. 그러나 5월에 ChatGPT 및 기타 서비스가 비활성화되었을 때, DOGE의 진전은 법적 회색 지대에서 이루어졌습니다. 내부 DHS 봇은 계속 작동했지만, Grok은 공식적으로 온보딩되지 않았습니다.

Musk가 DOGE를 사용하여 통제를 중앙집권화하고 있는가?

DHS를 넘어 DOGE의 영향력은 국방부 네트워크로도 확장되었으며, 약 dozen 명의 분석가가 제3자 AI 도구가 그들의 활동을 모니터링하고 있다는 사실을 보고받은 것으로 알려져 있습니다. DoD 대변인들은 DOGE가 어떤 AI 배포도 지시하지 않았다고 부인했지만, Reuters가 입수한 부서 내 이메일과 문자 메시지 교환은 이와 다른 사실을 시사합니다.

비판가들은 이러한 움직임을 Musk의 더 넓은 전략, 즉 AI를 활용하여 관료제에 대한 통제를 중앙집권화한 후 resulting 데이터 흐름을 monetize하려는 시도로 보고 있습니다.

“명백한 자기 거래의 인상이 있습니다.”

Richard Painter, 정부 윤리 교수.

만약 Musk가 Grok의 배포를 직접 지시했다면, 그는 공무원이 사적 이익을 가져오는 결정을 영향력 있게 작용하는 것을 금지하는 형사 법령을 위반할 수 있습니다. 사적 이익을 가져오는

논쟁의 핵심은 Grok이 X에서 대중용 채팅봇이자 정부 방화벽 내부의 실험적 분석 엔진이라는 이중 역할에 있습니다. xAI의 웹사이트는 사용자 상호작용이 “특정 비즈니스 목적”을 위해 모니터링될 수 있다고 암시하며, 이는 모든 연방 쿼리가 Grok의 학습 루프로 피드백될 수 있음을 시사합니다.

DOGE 직원 두 명인 Kyle Schutt와 Edward Coristine(온라인상에서는 “Big Balls”로 알려짐)은 AI 이니셔티브의 대부분을 주도해 왔습니다. 그들은 발언을 거부했지만, 그들의 노력은 일관된 패턴을 따릅니다. 지난 1년 동안 DOGE는 수천 명의 경력 공무원들을 해고하고, 보안 데이터베이스의 통제를 장악하며, 관료제 개혁을 위한 궁극적인 도구로서 AI를 옹호해 왔습니다.

개인정보 보호 옹호자들은 검증되지 않은 AI를 높은 stakes의 국가 안보 환경에 통합하는 것이 데이터 유출, 신원 도용 및 외국 적대 세력의 악용을 초래할 수 있다고 경고합니다.

“이것은 당신이 맞닥뜨릴 수 있는 가장 심각한 개인정보 위협 중 하나입니다.”라고 Surveillance Technology Oversight Project의 Albert Fox Cahn은 말합니다.

또한 투명성이 부족하고 안전 장치가 거의 없는 상태에서, DOGE의 AI 실험이 대중의 인식 여부와 상관없이 연방 데이터 거버넌스를 재편할 수 있다는 우려도 있습니다.