월요일, 600명이 넘는 구글(GOOGL, GOOG) 직원들이 순다르 피차이 CEO에게 기밀 업무에 구글의 인공지능(AI)을 국방부가 사용하지 못하도록 막아달라고 요청했습니다.
이 서한은 딥마인드와 구글 클라우드 내부 직원들이 보낸 것으로, 그들은 구글과 미국 국방부가 기밀 시스템에 제미니를 사용하는 방안에 대해 논의 중이라는 내용의 더 인포메이션(The Information) 보도를 근거로 들었습니다.
구글 직원들은 제미니가 미 국방부의 비밀 업무에 참여하는 것을 막아야 할 여러 가지 이유를 제시했습니다
편지는 순다르에게 보내는 직접적인 경고로 시작되었는데, 직원들은 "저희는 구글과 미 국방부 간의 진행 중인 협상에 대해 깊이 우려하는 구글 직원입니다. 인공지능 분야에서 일하는 사람으로서, 이러한 시스템이 권력을 중앙집권화할 수 있고 오류를 범할 수도 있다는 것을 알고 있습니다."라고 전했습니다
직원들은 자신들이 해당 기술과 밀접하게 접촉하고 있기 때문에 "기술의 가장 비윤리적이고 위험한 사용 사례를 밝히고 예방해야 할 책임이 있다"고 믿는다고 말했습니다
구글 직원들은 "기밀 업무에 자사 AI 시스템을 제공하지 말아 주십시오. 그렇지 않으면 저희가 알지 못하는 사이에, 혹은 막을 수 없는 상황에서 그러한 사용이 발생할 수 있습니다."라고 서한을 통해 밝혔습니다. 그들은 AI가 사람들에게 도움이 되기를 바라지, 해악을 조장하는 데 사용되어서는 안 된다고 강조했습니다. 특히 자율 살상 무기와 대규모 감시를 핵심적인 우려 사항으로 지적했습니다. 또한 기밀 업무가 실제 상황을 숨길 수 있기 때문에 위험성이 이 두 가지 영역에만 국한되지 않는다고 경고했습니다.
그들의 주장은 구글이 기밀 군사 업무를 수락할 경우, 노동자들은 업무 사용 내역을 확인하거나, 의문을 제기하거나, 막을 방법이 없을 수 있으며, 유일한 확실한 보장은 계약이 체결되기 전에 기밀 업무를 거부하는 것뿐이라는 것이었습니다.
그들은 또한 잘못된 선택이 구글의 명성, 사업, 그리고 세계적 위상에 해를 끼칠 수 있다고 경고했습니다. 직원들은 자신들의 안전과 핵심 기반 시설이 현재 위협에 직면해 있으며, 자신들과 같은 사람들이 개발한 기술의 오용으로 인해 생명과 시민의 권리가 이미 위험에 처해 있다고 말했습니다.
트럼프 행정부의 국방부는 미군이 인공지능에 대규모로 접근할 수 있도록 강행하고 있다
미 국방부 지도부는 군이 "모든 합법적인 용도"로 상업용 인공지능(AI)을 자유롭게 사용할 수 있어야 한다고 밝혔습니다. 관계자들은 이 문구가 미국 법과 군사 규정을 준수하면서 정부가 다양한 경우에 해당 기술을 활용할 수 있는 여지를 준다고 설명합니다.
AI 종사자들은 그것만으로는 충분한 보호가 되지 않는다고 생각합니다. 트럼프 대통령의 언행 때문에 그들의 우려는 더욱 커지고 있습니다. 이달 초, 도널드 트럼프dent 이란의 "모든" 다리와 발전소를 폭격하겠다고 위협했습니다. 전문가들은 워싱턴 포스트와의 인터뷰에서 그러한 공격은 국제법 위반이라고 지적했습니다. 트럼프 행정부가 마약 운반선이라고 주장하며 공격한 선박들에 대해서도 국제법 전문가들의 이의가 제기되었습니다.
구글의 서한은 다른 AI 기업들이 이미 미 국방부와의 갈등에 휘말린 가운데 도착했습니다. 클로드(Claude)를 개발한 민간 기업 앤트로픽(Anthropic)은 작년에 자사 기술이 미군 시스템에 탑재되었습니다. 이 도구들은 데이터를 분류하고 잠재적 목표물을dent도움을 주었습니다.
그러자 미 국방부는 앤트로픽과 의 모든 국방부 사업을 중단시켰습니다. 이 회사는trac자사의 AI가 대규모 감시나 자율 살상 무기에 사용될 수 없다는 조항을 계약에
앤스로픽과 정부는 해당 공급 중단 조치가 합법적인지 여부를 두고 소송을 진행 중입니다. 이 소송으로 인해 미국 군대와 협력하는 구글과 오픈AI에 대한 관심이 더욱 집중되었습니다.
OpenAI는 비상장 회사이기 때문에 주식 시세 표시기가 없습니다. 이 회사는 Anthropic이 제재 대상에서 제외된 직후인 2월에 기밀 작업에 필요한 AI 솔루션을 제공하는 계약을 체결했습니다. OpenAI의 CEO인 샘 알트만은 정부와의trac이 미국의 대규모 감시 및 자율 살상 무기에 AI가 사용되는 것을dent 밝혔습니다.
구글은 이와 비슷한 상황을 이미 경험했습니다. 2018년, 국방부가 하기 위해 구글의 AI 기술을 사용하는 프로젝트에 대해dent. 수백 명이 해당 프로젝트에 반대하는 청원서에 서명했고, 구글은 이후 계약 갱신을 하지 않기로 결정했습니다.
그 논쟁 이후 구글은 자사의 AI 기술을 무기나 감시 목적으로 사용하지 않겠다고 약속했습니다. 그러나 구글은 최근 몇 년 동안 더 많은 군사trac을 모색해 왔습니다. 작년에 구글은 이러한 제한을 철폐했고, 12월에는 미 국방부가 제미니 시스템을 사용할 수 있도록 하는 계약을 체결했습니다.
