Grok AI의 미국 정부 내 역할에 대한 윤리적 우려가 커지고 있습니다

일론 머스크가 이끄는 정부 효율성 부서(DOGE)가 그의 AI 챗봇 '그록(Grok)'의 수정 버전을 연방 기관 전반에 조용히 배포하면서 개인정보 유출 및 이해 충돌 가능성에 대한 우려가 제기되고 있습니다.

로이터는 DOGE 내부 소식통 세 명을 인용해 DOGE 팀이 Grok을 사용하여 민감한 정부 데이터를 분류하고 분석하여 기존 방식보다 훨씬 빠른 속도로 보고서와 통찰력을 생성하고 있다고 보도했습니다.

DOGE는 Grok AI 인수로 윤리 규정을 위반했습니다

세 명의 내부 관계자에 따르면, DOGE 엔지니어들은 데이터 검토 속도를 높이고 보고서 작성을 자동화하기 위해 머스크의 xAI가 2023년 말에 출시한 챗봇인 Grok에 맞춤형 매개변수를 설치했습니다.

"정부 데이터 세트를 입력하고 복잡한 질문을 던지면 즉시 요약 결과를 얻을 수 있습니다."

내부자.

또 다른 내부 관계자는 DOGE 직원들이 해당 도구가 공식적인 기관 승인을 받지 않았음에도 불구하고 국토안보부 직원들에게 내부 분석에 Grok을 사용하도록 권장했다고 덧붙였습니다.

불분명한 점은 Grok에 어떤 기밀 정보나 개인dent정보가 업로드되었는지, 그리고 연방 기록을 얼마나 많이 학습시켰는지입니다. 만약 민감한 자료가 포함되었다면, 이러한 행위는 연방 개인정보 보호법 및 이해충돌 규정을 위반할 수 있습니다.

윤리 및 기술 전문가 5명은 이러한 접근 권한이 머스크의 회사들에게 비공개trac데이터에 대한 과도한 정보를 제공하고, 심지어 사적 이익을 위해 Grok 자체를 개선하는 데 도움이 될 수 있다고 경고했습니다.

이론적으로dent정부 데이터 세트로 학습된 모든 AI 모델은 엄격한 법적 보호 장치를 준수해야 합니다. 데이터 공유 프로토콜은 일반적으로 무단 공개를 방지하기 위해 여러 단계의 승인 및 감독 절차를 포함합니다.

DOGE는 이러한 검증 절차를 우회함으로써 수백만 미국인의 개인 정보를 노출시키고, 경쟁업체에는 없는 방대한 양의 실제 정보를 xAI에 넘겨줄 위험을 초래합니다.

DOGE는 낭비, 사기 및 남용을 근절하는 것이 임무라고 주장합니다. 국토안보부 대변인은 로이터 통신 에 DOGE가 직원들에게 특정 도구를 채택하도록 압력을 가한 적이 없다고 밝혔습니다.

대변인은 "우리는 효율성에 집중하고 있다"고 말했습니다. 그러나 두 소식통은 최근 몇 주 동안 DOGE(디지털 법무부) 관계자들이 DHS(국토안보부) 산하 부서들에 이민 건수 분석부터 예산 예측에 이르기까지 다양한 업무에 Grok을 시범 운영하도록 압력을 가했다고 반박했습니다. 이는 DHS가 데이터 유출 우려로 모든 상용 AI 플랫폼 사용을 갑자기 차단한 이후에도 벌어진 일입니다.

현행 국토안보부(DHS) 정책에 따르면, 직원들은dent이 아닌 업무에만 상용 챗봇을 사용할 수 있으며, 민감한 기록은 DHS 자체 개발 AI가 처리합니다. 그러나 5월에 ChatGPT를 비롯한 챗봇들이 사용 중지되면서, DOGE의 개발은 법적으로 모호한 영역에서 이루어졌습니다. DHS 내부 챗봇은 계속 작동했지만, Grok은 공식적으로 시스템에 통합되지 않았기 때문입니다.

머스크는 DOGE를 이용해 통제권을 중앙집중화하려는 것일까?

국토안보부(DHS)를 넘어, DOGE의 영향력은 국방부 네트워크까지 미치고 있으며, 약 12명의 분석가들이 제3자 AI 도구가 자신들의 활동을 감시하고 있다는 통보를 받은 것으로 알려졌습니다. 국방부 대변인은 DOGE가 AI 배포를 지시했다는 사실을 부인했지만, 로이터 그와는 상반되는 정황을 보여줍니다.

비평가들은 이러한 움직임이 머스크가 인공지능을 활용하여 관료주의에 대한 통제권을 중앙집권화하고 그 결과로 발생하는 데이터 흐름을 수익화하려는 더 광범위한 전략을 보여주는 사례라고 보고 있습니다.

“사익을 위한 거래가 명백히 드러나고 있습니다.”

리처드 페인터는 정부 윤리학 교수입니다.

결정에 영향을 미치는 것을 금지하는 형사법을 위반했을 가능성이 있다 사익을 위해

이번 논쟁의 핵심은 Grok이 X 플랫폼에서 대중에게 공개되는 챗봇 역할과 정부 기관 내부에서 실험적인 분석 엔진 역할을 동시에 수행한다는 점입니다. xAI 웹사이트에서는 사용자 상호작용이 "특정 사업 목적"으로 모니터링될 수 있음을 암시하고 있는데, 이는 모든 연방 정부 문의가 Grok의 학습 과정에 반영될 수 있음을 시사합니다.

카일 DOGE 직원인슈트와 에드워드 코리스틴(온라인에서는 "빅 볼스"로 알려짐)은 인공지능(AI) 도입 계획을 주도해 왔습니다. 이들은 논평을 거부했지만, 그들의 노력은 일관된 패턴을 보입니다. 지난 1년 동안 DOGE는 수천 명의 공무원을 해고하고, 보안 데이터베이스를 장악했으며, AI를 관료주의 개혁의 궁극적인 도구로 내세웠습니다.

개인정보보호 옹호자들은 검증되지 않은 인공지능을 국가 안보와 직결되는 중요한 환경에 통합하는 것은 데이터 유출,dent도용, 그리고 외국 적대 세력의 악용으로 이어질 수 있다고 경고합니다.

감시 기술 감독 프로젝트의 앨버트 폭스 칸은 "이것은 매우 심각한 사생활 침해 위협입니다."라고 말합니다.

또한 투명성이 부족하고 안전장치가 거의 없는 DOGE의 AI 실험이 대중이 인지하든 못하든 연방 데이터 관리 체계를 재편할 수 있다는 우려도 있습니다.