수백 명의 직원들이 트럼프 펜타곤과의 AI 파트너십 거부를 요구하며 구글에 청원

600명 이상의 구글(GOOGL, GOOG) 직원은 월요일 선다르 피차이에게 기밀 작업을 위해 펜타곤을 구글의 AI에서 멀리하도록 요청했습니다.

이 편지는 딥마인드와 구글 클라우드 내부의 직원들로부터 왔으며, 구글과 미국 국방부가 기밀 시스템 내에서 제미니 사용에 대해 논의 중이라는 더 인포메이션(The Information)의 보고서를 지적했습니다.

구글 직원들, 제미니의 비밀 펜타곤 작업 차단 이유 제시

편지는 선다르에게 직접적인 경고로 시작되었으며, 직원들은 다음과 같이 전했습니다. “우리는 구글 직원으로서 구글과 미국 국방부 간의 지속적인 협상에 대해 깊은 우려를 가지고 있습니다. AI를 다루는 사람으로서 우리는 이러한 시스템이 권력을 집중시킬 수 있으며 실수를 범할 수 있다는 것을 압니다.”

직원들은 자신이 기술에 가까우므로 “가장 비윤리적이고 위험한 사용 사례를 강조하고 방지할 책임이 있다”고 믿었습니다.

“우리는 기밀 워크로드에 우리 AI 시스템을 제공하지 말 것을 요청합니다. 그렇지 않으면 이러한 사용이 우리의 지식이나 이를 중단할 권한 없이 발생할 수 있습니다.”라고 구글 직원들은 말했습니다. 편지에서는 AI가 해를 지원하는 것이 아니라 사람들을 돕기를 원한다고 설명했습니다. 그들은 자율 살상 무기와 대규모 감시를 핵심 우려 사항으로 꼽았습니다. 또한 기밀 작업이 실제로 일어나고 있는 것을 숨길 수 있기 때문에 위험이 이 두 영역을 넘어선다고 말했습니다.

그들의 주장은 구글이 기밀 군사 워크로드를 수용할 경우, 직원들이 사용 여부를 확인할 수 없거나 의문을 제기하거나 중단할 방법이 없으며, 유일한 실제 보장은 거래가 완료되기 전에 기밀 작업을 거부하는 것이라는 것이었습니다.

또한 그들은 잘못된 선택이 구글의 명성, 비즈니스 및 세계적 위상을 손상시킬 수 있다고 경고했습니다. 직원들은 자신들의 안전과 핵심 인프라가 적극적인 위협에 직면해 있으며, 그들의와 같은 사람들이 만든 기술의 잘못된 사용으로 인해 생명과 시민권이 이미 위험에 처해 있다고 말했습니다.

트럼프의 펜타곤, 미국 군대를 위한 막대한 AI 접근을 강요

펜타곤 지도자들은 군대가 '모든 합법적 용도'를 위해 상업용 AI를 자유롭게 사용할 수 있어야 한다고 말했습니다. 관리들은 이 구문이 미국 법과 군사 규정 내에서 다양한 사례에서 기술을 사용할 수 있는 정부의 여지를 제공한다고 말합니다.

AI 노동자들은 이를 충분한 보호로 보지 않습니다. 그들의 우려는 트럼프 자신의 언어와 행동으로 인해 커졌습니다. 이달 초 도널드 트럼프 대통령은 이란의 '모든' 교량과 발전소를 폭격하겠다고 위협했습니다. 전문가들은 이러한 공격이 국제법을 위반할 것이라고 말했습니다. 그의 행정부가 마약을 실었다고 주장하는 보트에 가한 공습 역시 국제법 전문가들에 의해 도전받았습니다.

구글의 편지가 다른 AI 기업들이 이미 펜타곤과의 싸움에 휘말린 시점에 도착했습니다. 클로드를 개발한 민간 기업인 앤티로픽은 지난해 그 기술을 미국 군사 시스템에 탑재했습니다. 이러한 도구는 데이터를 분류하고 가능한 표적을 식별하는 데 도움이 되었습니다.

그런 다음 펜타곤은 2월 앤티로픽을 모든 국방부 작업에서 차단했습니다. 해당 회사는 자신의 AI가 대규모 감시나 자율 살상 무기 등에 사용되지 못하도록 계약 조건을 추가하려고 시도했습니다.

앤티로픽과 정부는 이러한 차단이 합법적인지 여부를 두고 법원에서 다투고 있습니다. 이 사건은 구글과 오픈AI 모두 미국 군대와 협력하기 때문에 두 회사에 더 많은 관심을 끌었습니다.

오픈AI는 사립 기업이기 때문에 주식 티커가 없습니다. 오픈AI는 앤티로픽이 제거된 직후인 2월에 기밀 워크로드에 대한 AI 제공 계약을 체결했습니다. 오픈AI의 최고경영자 샘 알트만은 정부 계약이 미국 대규모 감시 및 자율 살상 무기 사용을 차단한다고 확신한다고 말했습니다.

구글은 이전에 이런 상황을 겪은 바 있습니다. 2018년, 직원들은 드론 영상에서 물체를 식별하는 데 구글 AI를 사용한 펜타곤 프로젝트에 반대하며 시위를 벌였습니다. 수백 명이 해당 작업에 반대하는 청원에 서명했고, 구글은 나중에 해당 계약을 갱신하지 않기로 선택했습니다.

그 싸움 이후 구글은 자신의 AI 기술이 무기나 감시에 사용되지 않을 것이라는 서약을 만들었습니다. 하지만 회사는 최근 몇 년간 더 많은 군사 계약을 모색해 왔습니다. 지난해 구글은 이러한 제한을 철회했습니다. 12월, 국방부가 제미니를 사용할 수 있게 하는 계약을 체결했습니다.