파리 거리 쓰레기 더미의 가짜 AI 이미지 viral

프랑스의 수도 파리는 지난 일주일 동안 인터넷에 일부 AI 생성 이미지가 등장한 후 태국에서 화제가 되었습니다. 이 이미지들은 파리 거리의 쓰레기 더미를 보여줍니다. 

파리 전역의 쓰레기 매립지를 보여주는 가짜 AI 이미지

이미지의 동영상 컴필레이션은 다양한 플랫폼에서 400,000회 이상 조회되었으며, 특히 태국에서 많은 사람들을 오해하게 하여 도시를 낮추는 댓글을 작성하도록 했습니다.

한 경우, 누군가가 "이것이 프랑스 수도 파리입니다. 꿈의 도시… 이제 현실에서는 이렇게 변했습니다."라고 댓글을 남겼습니다.

일부 사람들은 최근 프랑스의 위기를 원인으로 지목하며, 한 사용자는 "이것이 사람들이 폭동할 때 일어나는 일입니다."라고 말했고, 또 다른 태국인 댓글러는 "이것은 선진국들의 암흑기입니다. 태국은 점진적으로 발전하는 것이 더 낫습니다. 저는 태국인으로서 자랑스럽습니다."라고 말했습니다.

사실, 문제의 이미지들은 가짜였으며, 파리 거리에서 쓰레기 투기 보고는 없었습니다. 프랑스 통신사(Agence France-Presse, AFP)의 추가 조사는 해당 이미지들이 7월에 'Nik Art'라는 이름의 페이스북 페이지 관리자가 생성한 AI 이미지 생성 도구를 사용하여 만들어졌음을 확인했습니다. 

페이스북 관리자는 이미지 생성에 Midjourney를 사용했다고 시인했으며, 텍스트 프롬프트도 제공했습니다. 

7월 초, 프랑스는 프랑스 대통령 에마뉘엘 마크론의 AI 생성 이미지로 여러 언론 매체의 주목을 받았습니다. 사진 속 대통령은 거리 한가운데 의자에 앉아 있고, 뒤로는 쓰레기 더미가 타고 있었습니다. 

물론 대통령이 그러한 상황에 있었다는 증거는 없었으며, 많은 사람들이 이 이미지가 Midjourney를 사용하여 생성되었다고 믿었습니다. 가짜 AI 이미지 사례가 여러 번 발생했으며, 이는 생성형 AI 규제에 대한 많은 논의와 압력으로 이어졌습니다. 

가짜 AI 이미지 규제를 위한 구글의 움직임

인터넷 거인 구글은 사실적인 가짜 이미지를 걸러내기 위한 조치를 시작했습니다. 3월, 회사는 이미지와 함께 잘못된 정보의 확산을 방지하는 데 도움이 되는 새로운 도구를 출시했습니다. 이 도구를 사용하면 사용자는 이미지의 출시일, Google 인덱싱 날짜, 이미지 출처 등 이미지에 대한 더 많은 맥락 정보에 접근할 수 있습니다.

구글은 미드저니와 셔터스톡 등 여러 출판사와 자체 생성형 AI 모델을 포함한 이 기능을 지원할 것이라고 밝혔다. 

“또한 생성형 이미지 기능을 출시함에 따라, 모든 AI 생성 이미지에 원본 파일에 마크업을 추가하여 플랫폼 외부에서 이를 접할 때 맥락을 제공할 수 있도록 할 것입니다. 크리에이터와 출판사도 유사한 마크업을 추가할 수 있으므로, 구글 검색에서 AI 생성 이미지임을 나타내는 레이블을 확인할 수 있게 됩니다.”라고 발표문은 전했다.