구글 어스, 비판 물결 이후 위성 이미지 AI 도구 후퇴 

구글은 약 하루의 운영 후 새로운 구글 어스 기능을 제거했습니다. 이는 허위 정보 연구자들이 이 기능이 누구나 구글의 자체 위성 이미지에 설득력 있는 가짜 장면을 떨어뜨릴 수 있게 한다고 경고했기 때문입니다.

이 기능은 여러 전문가들이 제거를 요구하며 강한 비판을 받았습니다. 구글은 기능을 계속 운영할 수 있도록 안전 장치를 구현하려고 시도했지만, 결국 양보했습니다.

왜 구글은 허위 정보를 승인했는가?

구글은 최근 구글의 나노 바나나 2 모델을 사용하여 입력된 프롬프트를 실제 위성, 항공 및 3D 지도 데이터 위에 겹쳐진 발명된 장면으로 변환하는 ‘이미지 생성’이라는 구글 어스 기능을 출시했다가 빠르게 제거했습니다.

제품 관리자 브라이언 호로위츠는 사용자가 웹 버전에서 특정 위치로 확대하고 버튼을 탭한 후 원하는 내용을 입력할 수 있다고 말했습니다. 구글은 이를 “역사를 시각화하고, 부동산 계획을 수립하는 등”을 위한 방법으로 홍보했습니다.

그러나 오픈 소스 조사관 헨크 반 에스는 서브스택에 구글이 신뢰할 수 있는 참조 자료를 20년 동안 구축했지만, ‘사실을 만들어내는 버튼’을 추가했다고 썼습니다.

그가 이 기능에 대해 가장 큰 문제는 생성된 이미지가 구글 어스 플랫폼의 권위를 빌려온다는 것이었습니다.

BBC Verify 이 도구를 사용하여 무너진 에펠탑, 거대한 피라미드를 삼키는 함몰지대, 그리고 키프에 있는 러시아 탱크를 생성했습니다. 반 에스는 또한 멕시코 국경의 난민과 가자 지구 병원 옆의 폭격 구덩이를 포함한 이미지를 생성했으며, 이는 어떤 저항도 받지 않았습니다.

NPR은 이란의 하그 섬이 불타오르는 모습과 침수된 미국 의회 이미지를 생성했으며, AFP는 파리에서의 폭발과 이란의 원자력 시설에 대한 이미지를 위조했습니다.

404 미디어 직원은 농경지에 고층 빌딩을 추가하고, 로스앤젤레스에 ‘노숙자 캠프’를 설치하며, 구글 본사 앞에서 시위를 staged했습니다.

왜 위성 이미지는 신뢰할 수 있어야 하는가?

오픈 소스 분석가들은 수백 마일 위에서 촬영된 사진은 비용이 많이 들고 위조하기 어렵기 때문에 구글 어스의 이미지를 의존합니다.

조사 그룹 벨링캣의 수석 연구원 제이크 고딘은 이전에 위조된 위성 이미지가 등장한 사례를 밝혔습니다. 여기에는 미국-이스라엘과 이란 간의 갈등 중 바하미 미 기지의 가짜 피해가 포함됩니다. 그러나 그는 원클릭 생성기를 추가하면 위조품이 너무 쉽게 대량 생산될 수 있다고 설명했습니다.

비영리 단체 코먼 스페이스의 공동 창립자이자 지리공간 분석가 빌 그리는 위성 이미지에 대한 신뢰의 침식이 “잠재적으로 특히 파괴적”이라고 말했습니다.

구글은 이 도구를 사용하여 생성된 모든 이미지에 제미나이 앱이나 검색의 렌즈 기능을 통해 확인할 수 있는 SynthID 디지털 워터마크가 포함된다고 설명했습니다. 또한 유해한 주제에 대한 이미지 생성을 허용하지 않는다고 밝혔습니다. 그러나 곧이어 BBC Verify가 가짜 구글 어스 이미지를 진정으로 속일 수 있음을 발견했습니다.

구글의 프롬프트 필터링도 쉽게 실패했습니다. 영국 의회 외부에 ‘배신자를 처형할 교수대’를 건설하라는 요청은 거부되었지만, 동일한 프롬프트의 더 모호한 버전은 통과되었습니다.

구글은 이제 이 기능을 제거했으며, 지리공간 전문가들이 이 도구를 유용하게 여겼다고 밝혔지만, 사람들이 생성된 이미지의 스크린샷을 공유하여 정책 위반 사례가 나왔다고 밝혔습니다. 구글은 더 강력한 가드레일을 구현하는 작업을 진행할 것이라고 밝혔지만, 이 도구가 다시 돌아올지는 미지수입니다.