메타, 딥페이크 우려에 대응해 5월까지 AI 기반 콘텐츠 라벨링 도입 예정

딥페이크에 대한 사용자 및 정부의 우려를 해소하기 위해 페이스북과 인스타그램 운영사인 메타는 금요일, 5월부터 AI 콘텐츠에 태그를 부착하기 시작한다고 발표했습니다. 소셜 미디어 대기업인 페이스북은 표현의 자유를 존중하기 위해 정책을 위반하지 않는 한 수정된 사진과 음성 파일을 더 이상 삭제하지 않고 용어와 맥락을 기준으로 판단할 것이며, "AI로 제작됨"이라는 라벨을 추가할 것이라고 밝혔습니다. 페이스북, 스레드, 인스타그램 게시물 모두 이 정책의 적용을 받습니다.

메타는 현재 정책이 "너무 협소하다"고 인정하며, 더 많은 오디오, 비디오 및 이미지 콘텐츠를 인공지능(AI) 생성 콘텐츠로 분류하기 시작할 것이라고 발표했습니다. 메타는 구체적인 감지 방법을 밝히지는 않았지만, 사용자가 AI 도구 사용을 시인하거나 메타가 업계 표준 AI 이미지 표시기를 통해 콘텐츠를 인식할 경우 AI 라벨이 적용될 것이라고 밝혔습니다.

메타, 감독위원회의 비판에 답변

이번 수정은 콘텐츠 수정을 담당하는 인터넷 거대 기업 메타의dent 평가 패널인 감독위원회의 비판에 따른 것입니다. 인공지능의 비약적인 발전과 미디어를 조작하여 매우 사실적인 딥페이크를 손쉽게 만들 수 있다는 점을 고려하여, 감독위원회는 지난 2월 메타에 개선을 요구했습니다

미디어 조작 전략을 신속히 재평가해야 한다는 것입니다. 국내외적으로 중요한 선거의 해에 이러한 경고를 발표한 것은 플랫폼에서 인공지능 기반 애플리케이션이 허위 정보 유포에 악용되는 사례가 증가하고 있다는 우려 때문입니다.

콘텐츠 정책 담당dent 인 모니카 비커트는 다음과 같이 말했습니다

"우리는 감독위원회의 주장에 동의합니다. 우리의 기존 접근 방식은 인공지능이 제작하거나 수정하여 특정 인물이 실제로 하지 않은 말을 한 것처럼 보이게 만든 영상만을 다루기 때문에 너무 협소합니다."

출처: 메타

감독위원회의 권고에 따라 메타는 조작된 미디어에 대한 접근 방식을 바꾸기로 했습니다. 콘텐츠를 완전히 삭제하는 대신, 출처와 진위 여부에 대한 투명성을 제공하기 위해 라벨링과 맥락 설명에 의존할 것입니다. 메타는 이러한 조치가 표현의 자유를 존중하면서도 오해를 불러일으키거나 기만적인 미디어로 인한 피해를 방지하기 위한 노력의 일환이라고 밝혔습니다.

AI 콘텐츠 라벨링 구현

Meta의 라벨링 프로젝트는 두 단계에 걸쳐 진행될 예정이며, 첫 번째 단계는 2024년 5월에 시작됩니다. AI 생성 콘텐츠를인식하고 적절하게 분류합니다. 또한, 조작 가능성을 사용자에게 알리기 위해 대중을 속일 위험이 높다고 판단되는 콘텐츠에는 더욱 눈에 띄게 라벨이 부착될 예정입니다.

메타의 2차 시행 단계(7월 예정)에서는 기존 정책만을 근거로 변조된 미디어를 삭제하는 방식이 중단됩니다. AI로 조작된 콘텐츠가 혐오 발언 금지나 선거 개입 금지 등 다른 커뮤니티 가이드라인을 위반하지 않는 한, 새로운 정책 하에서도 플랫폼에서 계속 이용 가능합니다. 메타는 플랫폼의 건전성을 유지하는 동시에 표현의 자유를 보장하는 균형을 맞추기 위해 노력하고 있으며, 이번 조치는 그러한 노력을 반영한 것입니다.

비커트는 덧붙였다 

"이 라벨은 감독위원회가 라벨링을 권고한 조작된 콘텐츠 외에도 더 광범위한 콘텐츠를 포괄할 것입니다." 

출처: Meta Inc.

인공지능 도구를 사용했는지 여부와 관계없이, 괴롭힘, 선거 개입, 희롱과 같은 다른 지침을 위반하는 콘텐츠는 삭제될 것입니다.

주요 디지털 대기업과 AI 기업들은 유권자를 오도하기 위한 조작된 콘텐츠를 단속하기 위해 지난 2월 합의에 도달했으며, 이는 새로운 라벨링 방식과 연관됩니다. 메타, 구글, 오픈AI는 AI 애플리케이션이 생성한 사진에 사용할 단일 워터마킹 표준에 이미 합의한 바 있습니다.