Elon Musk의 정부 효율성 (DOGE)은 연방 기관 전반에 걸쳐 Grok AI 챗봇의 적응 된 버전을 조용히 출시하여 잠재적 개인 정보 침해 및 이해 상충에 대한 경보를 높였습니다.
로이터 통신은 Doge 내부의 세 가지 소식통을 인용하여 팀이 Grok을 사용하여 민감한 정부 데이터를 살펴보고 분석하여 전통적인 방법 이상의 속도로 보고서와 통찰력을 생성한다고 말했습니다.
Doge는 Grok AI Move와 함께 윤리를 위반합니다
세 명의 내부자에 따르면, Doge 엔지니어는 Musk의 Xai가 2023 년 후반에 출시 한 챗봇 인 Grok 위에 사용자 정의 매개 변수를 설치하여 데이터 검토를 가속화하고 보고서 작성을 자동화했습니다.
"그들은 정부 데이터 세트를 공급하고 복잡한 질문을하며 즉각적인 요약을받습니다."
내부자.
또 다른 내부자는 DOGE 직원이 공식 기관의 승인이없는 도구에도 불구하고 국토 안보부 직원이 내부 분석에 Grok을 사용하도록 장려했다고 덧붙였다.
불분명 한 것은 정확히 분류 된 것 또는 개인적으로 내가 Grok에 업로드 된dent정보가 연방 기록에 대해 얼마나 많이 훈련되었는지입니다. 민감한 자료가 포함 된 경우,이 관행은 연방 개인 정보 보호 법령과 이익 충돌 규칙을 위반할 수 있습니다.
5 명의 윤리 및 기술 전문가들은 그러한 접근이 Musk의 회사가 비공개 콘trac스 데이터에 대한 통찰력을 불균형시킬 수 있다고 경고하고 심지어 사적 이익을 위해 Grok 자체를 정련하는 데 도움이 될 수 있다고 경고합니다.
이론적으로,dent정부 데이터 세트에 대한 교육을받은 모든 AI 모델은 엄격한 법적 보호 조치를 탐색해야합니다. 데이터 공유 프로토콜에는 일반적으로 무단 공개를 방지하기 위해 여러 가지 사인 오프 및 감독이 포함됩니다.
Doge는 이러한 수표를 회피함으로써 수백만 명의 미국인의 개인 정보를 노출시킬 위험이 있으며 Xai는 경쟁 업체가 사용할 수없는 실제 정보를 전달할 위험이 있습니다.
Doge는 그 임무가 폐기물, 사기 및 학대를 뿌리는 것이라고 주장합니다. DHS 대변인은 로이터 Doge에게 직원에게 특정 도구를 채택하도록 압력 을가 한 적이 없다고 말했다.
대변인은“우리는 효율성에 중점을두고 있습니다. 그러나 최근 몇 주 동안 DOGE 대표자들은 DHS가 DHS가 데이터 누출 두려움에 대한 모든 상업용 AI 플랫폼을 갑자기 차단 한 후에도 이민 사례 예측 분석에서 예산 예측에 이르기까지 DHS 부서를 파일럿 Grok으로 밀어 붙였다는 두 가지 소식통이 반박합니다.
현재의 DHS 정책에 따라 직원은 분류되지 않은 비dent치아 작업에 대해서만 상용 챗봇을 사용할 수 있으며, 맞춤형 DHS AI는 민감한 레코드를 처리합니다. 그러나 5 월에 Chatgpt와 다른 사람들이 비활성화했을 때, Doge의 발전은 합법적 인 회색 구역에서 발생했습니다. 내부 DHS 봇은 생방송으로 남아 있었지만 Grok은 공식적으로 탑승하지 않았습니다.
Musk는 Doge를 사용하여 제어를 중앙 집중화합니까?
DHS 외에도 Doge의 도달 범위는 국방부 네트워크로 확장되며, 약 12 명의 분석가들이 제 3 자 AI 도구가 활동을 모니터링하고 있음을 알렸다. 로이터 가 얻은 부서별 이메일 및 텍스트 메시지 교환을 거부했지만 그렇지 않다고 제안했습니다.
비평가들은 이러한 움직임이 AI를 활용하여 관료주의에 대한 통제를 중앙 집중화 한 다음 결과 데이터 흐름을위한 수익을 창출하기위한 Musk의 더 넓은 전략을 설명하는 것으로 본다.
"자기 거래의 명확한 모습이 있습니다."
정부 윤리 교수 인 Richard Painter.
개인의 이익에 혜택을주는 결정에 영향을 미치는 범죄 법령을 위반할 수 있습니다
토론의 중심에는 X의 공개 챗봇과 정부 방화벽 내부의 실험 분석 엔진으로서 Grok의 이중 역할이 있습니다. Xai의 웹 사이트는 사용자 상호 작용이 "특정 비즈니스 목적으로"모니터링 될 수 있다는 것을 암시하여 모든 연방 쿼리가 Grok의 학습 루프로 환급 될 수 있음을 시사합니다.
두 명의 Doge 직원 인 Kyle Schutt와 Edward Coristine은 온라인으로“Big Balls”로 알려진 AI 이니셔티브의 대부분을 주도했습니다. 그들이 언급을 거부하는 동안 그들의 노력은 패턴에 맞습니다. 지난 1 년 동안 Doge는 수천 명의 경력 공무원을 기각하고 안전한 데이터베이스의 통제를 압수했으며 AI를 관료적 점검을위한 궁극적 인 도구로 옹호했습니다.
프라이버시 옹호자들은 미지의 AI를 고지대 국가 보안 환경에 통합하는 것이 데이터 누출,dent및 외국 대적 착취에 대한 레시피라고 경고합니다.
감시 기술 감독 프로젝트의 Albert Fox Cahn은“이것은 개인 정보 보호 위협에 관한 것입니다.
또한 투명성이 거의없고 가드 레일이 거의 없기 때문에 Doge의 AI 실험은 대중이 그것을 인식하는지 여부에 관계없이 연방 데이터 거버넌스를 재구성 할 수 있습니다.
키 차이 와이어 : 비밀 도구 암호화 프로젝트는 미디어 커버리지를 보장하는 데 사용됩니다.
