구글 어스, 비판 여론에 따라 위성 이미지 AI 도구 기능 삭제 

구글은 허위 정보 연구자들이 해당 기능이 누구나 구글의 위성 이미지에 그럴듯한 가짜 장면을 합성할 수 있도록 허용한다고 경고함에 따라, 출시 후 약 하루 만에 구글 어스의 새로운 기능을 삭제했습니다.

해당 기능은 전문가들 사이에서 큰 비판을 받았으며, 많은 전문가들이 기능 삭제를 요구했습니다. 구글은 기능을 유지하기 위한 안전장치를 마련하려 했지만, 결국에는 동의하지 않았습니다.

구글은 왜 허위 정보를 승인했을까요?

구글은 최근 구글 어스에서 "이미지 생성"이라는 기능을 출시했다가 곧바로 삭제했습니다. 이 기능은 구글의 나노 바나나 2 모델을 사용자가 입력한 내용을 실제 위성, 항공 및 3D 지도 데이터 위에 겹쳐진 가상의 장면으로 변환하는 기능이었습니다.

제품 관리자인 브라이언 호로위츠는 사용자들이 웹 버전에서 특정 지점으로 확대하고 버튼을 탭한 다음 원하는 내용을 입력하여 표시할 수 있다고 설명했습니다. 구글은 이를 "역사를 시각화하고, 부동산 계획을 세우는 등 다양한 용도로 활용할 수 있는 방법"으로 홍보했습니다

하지만 오픈소스 조사관인 헨크 반 에스는 서브스택에 기고한 글에서 구글이 20년 동안 신뢰할 수 있는 참조 자료를 구축해 놓고는 "사실을 지어내는 버튼"을 추가했다고 비판했습니다

그가 해당 기능에 대해 가장 문제 삼았던 점은 생성된 이미지가 구글 어스 플랫폼의 권위를 빌려 쓰는 것이라는 사실이었다.

BBC Verify는 이 도구를 사용하여 무너진 에펠탑, 기자의 대피라미드를 삼켜버린 싱크홀, 키이우에 있는 러시아 탱크 등의 이미지를 생성했습니다. 반 에스는 또한 멕시코 국경의 난민들과 가자 지구의 병원 옆에 있는 폭탄 구덩이 등의 이미지도 만들었는데, 이 이미지들 모두 아무런 저항도 받지 않았습니다.

NPR은 이란의 카르그 섬이 불타는 모습과 미국 국회의사당이 침수된 모습을 담은 이미지를 제작했고 , AFP는 파리 폭발과 이란의 핵 시설 폭발을 조작한 이미지를 만들어냈다.

404 미디어 직원들은 고층 건물을 짓고, 로스앤젤레스에 "노숙자 캠프"를 조성했으며, 구글 사무실 앞에서 시위를 벌였습니다.

위성 이미지는 왜 신뢰할 만해야 할까요?

오픈소스 분석가들은 구글 어스의 이미지를 활용하는데, 이는 수백 마일 상공에서 촬영한 사진은 비용이 많이 들고 위조하기 어렵기 때문입니다.

탐사보도단체 벨링캣의 선임 연구원인 제이크 고딘은 이전에도 위조된 위성 이미지가 등장한 적이 있다고 밝혔습니다. 여기에는 미국과 이스라엘이 이란과 분쟁을 벌이던 당시 바레인의 미군 기지에 발생한 피해를 조작한 이미지도 포함됩니다. 그러나 그는 원클릭 생성기가 추가되면서 위조 이미지를 대량 생산하는 것이 너무 쉬워졌다고 설명했습니다.

지리공간 분석가이자 비영리 단체인 커먼 스페이스의 공동 설립자인 빌 그리어는 위성 이미지에 대한 신뢰도 하락이 "잠재적으로 특히 심각한 피해를 초래할 수 있다"고 말했다

구글은 해당 도구로 생성된 모든 이미지에는 SynthID 디지털 워터마크가 있으며, 이는 제미니 앱이나 검색의 렌즈 기능을 통해 확인할 수 있다고 설명했습니다. 또한 유해한 주제와 관련된 이미지 생성은 허용하지 않는다고 밝혔습니다. 그러나 얼마 지나지 않아 BBC Verify는 가짜 구글 어스 이미지를 진짜로 인식하도록 제미니를 속일 수 있다는 사실을 발견했습니다.

구글의 프롬프트 필터링 기능 역시 쉽게 무너졌다. 영국 의회 밖에 "반역자를 교수형에 처할" 교수대를 설치해 달라는 요청은 거부했지만, 같은 내용을 모호하게 표현한 요청은 통과시켰다.

구글은 이후 해당 기능을 삭제하면서, 지리공간 전문가들에게는 유용한 도구였지만, 사용자들이 자사 정책을 위반하는 생성된 이미지의 스크린샷을 공유하는 사례가 있었다고 밝혔습니다. 구글은tron강력한 안전장치를 마련하기 위해 노력하겠다고 밝혔지만, 해당 기능이 다시 제공될지는 미지수입니다.