구글, 인공지능을 무기 및 감시 목적으로 사용하지 않겠다는 서약 철회

구글은 인공지능(AI)을 무기나 감시 목적으로 개발하지 않겠다는 기존 약속을 자사의 AI 원칙에서 삭제했습니다. 워싱턴 포스트가 2월 4일 처음 보도한 이 변화는 AI가 군사 및 정보 작전에 더욱 통합됨에 따라 국가 안보 파트너십에 대한 구글의 접근 방식을 보여주는 것입니다.

에서 블로그 게시물 구글 경영진은 인공지능의 확산과 민주주의 국가에 기반을 둔 기술 기업들이 정부 및 국방 고객을 지원해야 할 필요성 때문에 이번 업데이트가 필요하다고 밝혔습니다. 

우리는 민주주의 국가들이 자유, 평등, 인권 존중과 같은 핵심 가치에 따라 인공지능 개발을 주도해야 한다고 믿습니다. 또한 이러한 가치를 공유하는 기업, 정부, 그리고 단체들이 협력하여 사람들을 보호하고, 세계 경제 성장을 촉진하며, 국가 안보를 지원하는 인공지능을 만들어야 한다고 믿습니다.

Google

2018년에 제정된 회사의 기존 AI 윤리 강령은 "주요 목적이나 구현 방식이 사람에게 직접적인 상해를 입히는 것"인 무기 또는 기타 기술과 "국제적으로 용인된 규범을 위반하여 감시 목적으로 정보를 수집하거나 사용하는 기술"을 명시적으로 거부하는 내용을 담고 있었지만, 이제 해당 조항이 AI 원칙 웹사이트에서 삭제되었습니다.

구글, "국가 안보"를 위해 AI 원칙 업데이트

구글의 개정된 원칙에 따르면, 회사는 "전반적인 예상 이점이 예측 가능한 위험과 단점을 상당히 초과하는 경우"에만 인공지능 개발을 진행할 것이라고 명시되어 있습니다. 이번 개정은 광범위한 윤리적 고려를 강조하고 해를 끼칠 수 있는 인공지능 애플리케이션을 지양했던 이전 입장에서 크게 벗어난 것입니다.

더욱이, 미국의 기술 업계 리더들은 미국과 중국 간의 기술적 "냉전"에서 우위를 점하기 위해 미국의 인공지능 역량을 향상시키는 데 힘쓰고 있는 것으로 보인다. 

월요일, 팔란티어의 최고기술책임자(CTO)인 샴 산카르는 인공지능 경쟁을 “미국이 승리하기 위해서는” 국방부의 틀을 넘어 국가 전체가 힘을 합쳐야 하는 “범국가적 노력”이라고 설명했습니다

수년간 구글은 국가 안보 관련 인공지능 활용에 대한 제한적인 정책을 고수하며 주요 인공지능 기업들 사이에서 예외적인 존재로 자리매김해 왔습니다. 마이크로소프트와 아마존을 비롯한 다른 거대 기술 기업들은 미 국방부와 오랜 협력 관계를 유지해 왔지만, 최근 들어 신흥 인공지능 기업들도 군사 분야와의 연계에 적극적인 모습을 보이고 있습니다. 

지난해 말, ChatGPT 개발사인 오픈AI는trac미군을 위한 AI 기술 개발을 위해 방위산업체인 안두릴과 협력한다고 발표했습니다. 마찬가지로, 클로드 챗봇을 개발한 앤트로픽은 파트너십을 맺었습니다 .

펜실베이니아 대학교 정치학과 교수이자 신기술에 정통한 전 국방부 관료인 마이클 호로위츠는 워싱턴 포스트와의 인터뷰에서 구글의 정책 변화는 더 광범위한 추세의 일부라고 말했다. 

"구글의 발표는 미국 기술 업계와 국방부, 특히 주요 AI 기업들 간의 관계가 더욱 긴밀해지고 있다는 또 다른 증거그는구글이 새로운 현실을 반영하여 정책을 업데이트한 것은 당연한 일"이라고 말했다.

구글의 군사 및 감시trac둘러싼 논란

따르면, 2023년 보도 CNNtrac해고했습니다. 경영진은 해당 계약이 구글의 인공지능 원칙을 위반하지 않는다고 거듭 주장하며 계약을 옹호했습니다.

하지만 공개한 지난해 12월 뉴욕타임스가 trac물론, 국영 무기 제조업체를 위한 조항도 포함되어 있었던 것으로 나타났습니다. 

따르면 타임스지에, 구글 경영진은 님버스 프로젝트에 참여하기 4개월 전, 이 계약이 회사의 평판을 손상시킬 수 있고 자사의 클라우드 서비스가 인권 침해와 연관될 수 있다는 우려를 비공개적으로 제기했다고 합니다.

한편, 구글은 가자지구 전쟁을 비롯한 지정학적 갈등에 대한 내부 논의를 제한했다는 비판에 직면해 있습니다. 일부 직원들은 회사가 토론을 억압하는 동시에 국방 및 감시 관련 AItrac에 대한 관여를 심화시키고 있다고 비난했습니다.

구글의 업데이트된 AI 원칙을 계기로 소셜 미디어에서는 네티즌들이 이 기술 스타트업의 계획이 미국인의 이익을 보호하기 위한 것인지, 아니면 정부 방위trac에서 가장 큰 몫을 차지하려는 cake 에 불과한지에 대해 논쟁을 벌이고 있습니다.

"그래서… 인공지능은 미국의 무기 개발과 감시에 사용될 건가요, 아니면 최고 입찰자에게 팔릴 건가요?" 한 X 사용자가 질문했습니다.