Meta, AI 생성 이미지 라벨링을 위한 확대 정책 발표

구 Facebook으로 알려졌던 Meta는 Facebook, Instagram, Threads를 포함한 플랫폼에서 AI 생성 콘텐츠의 확산과 관련된 도전을 해결하기 위해 확대된 정책을 발표했습니다.

생성형 인공지능의 사용이 증가함에 따라, 회사는 이제 AI 생성 이미지에 경고 라벨을 부착하여 사용자에게 인공적인 기원을 알릴 것입니다. 이 조치는 긍정적인 단계로 평가되지만, 악의적 행위자들과의 싸움에서 그 효과성과 기술의 한계에 대한 우려는 여전히 남아 있습니다.

AI 생성 이미지에 대한 경고 라벨

Meta의 최신 정책 변화는 자체 생성형 AI 도구나 다른 회사가 제공하는 도구를 사용하여 생성된 AI 생성 이미지에 인공적인 성격을 나타내는 라벨을 태그하는 것을 포함합니다. 이 조치는 실제 사진인 것처럼 속여 퍼뜨려지는 AI 생성 이미지로 인한 오정보 및 허위 정보의 확산 위험을 줄이기 위해 설계되었습니다.

 Meta는 알고리즘이 출력물에 내장한 디지털 워터마킹을 주로 식별하여 AI가 생성한 이미지에 "Imagined with AI"라는 라벨을 붙여 왔습니다.

과제 및 한계

Meta가 이러한 경고 라벨을 구현하려는 의지를 가지고 있음에도 불구하고, 여전히 상당한 과제가 남아 있습니다. 주목할 만한 과제는 많은 AI 이미지 생성 도구가 출력물에 워터마킹을 남기지 않아, 악의적 행위자들이 공개 없이 AI 생성 콘텐츠를 조작하고 유포하기 쉽다는 것입니다. 

또한, AI 생성 이미지를 신뢰할 수 있게 감지하고 라벨을 지정하는 기술은 아직 개발 중이며, 보편적으로 배포된 표준은 존재하지 않습니다.

Adobe가 설립한 콘텐츠 기원 및 진위성 연합(Coalition for Content Provenance and Authenticity, C2PA)은 기업들의 콘텐츠 기원 관련 작업을 정렬하려고 시도했습니다. 그러나 지금까지 개발된 기술은 완벽하지 않습니다. 

연구자들은 워터마킹이 쉽게 무력화되거나 비AI 생성 이미지에 추가될 수 있음을 입증하여 그 효과를 약화시켰습니다.

C2PA 이니셔티브에 자문을 제공하는 UC 버클리 정보대학원의 Hany Farid 교수는 나쁜 행위자들이 출력물에 워터마킹을 남기지 않는 AI 도구를 사용하여 사용자를 더 속일 수 있다고 경고합니다. 

그는 기술 기반의 해싱(watermarking 및 hash-based)과 같은 식별 방법의 조합이 AI 생성 콘텐츠를 강력하게 식별하는 데 필요할 수 있다고 제안합니다. 워터마킹은 이미지 외에도 오디오 및 비디오와 같은 AI 생성 미디어에서는 덜 발달되어 있습니다.

정책 확대 및 감독

Meta의 새로운 정책이 가짜 콘텐츠 퇴치에서 한 걸음 나아간 것이기는 하지만, 이는 AI 생성 물질에만 국한되지 않습니다. 독립 전문가들로 구성된 Meta의 감독 위원회(Oversight Board)는 최근 Joe Biden 대통령의 영상이 오해의 소지를 일으키도록 편집된 영상의 게시를 유지한 Meta의 결정을 승인했습니다. 

이 결정은 Meta가 '조작된 미디어'에 대한 규칙을 수정하고 확대하여 AI 생성 콘텐츠뿐만 아니라 더 많은 것을 포괄해야 함을 강조합니다.

Meta의 대변인 Kevin McAlister는 더 넓은 접근 방식의 필요성을 인정하며 "기업들이 이미지 생성기에 신호를 포함하기 시작했지만, 동일한 규모로 오디오 및 비디오를 생성하는 AI 도구에는 포함하기 시작하지 않았습니다."라고 말했습니다. 

이에 따라 Meta는 적절한 라벨이 적용될 수 있도록 AI 생성 비디오나 오디오를 공유할 때 사용자가 이를 공개할 수 있는 기능을 추가하는 작업을 진행하고 있습니다.