딥페이크 우려에 대응한 Meta의 5월 AI 콘텐츠 라벨링 도입

사용자와 정부 간의 딥페이크에 대한 우려를 해소하기 위해 Facebook과 Instagram의 거대 기업인 Meta는 금요일 5월부터 AI 콘텐츠에 태그를 붙이기 시작할 것이라고 발표했습니다. 이 소셜 미디어 거대 기업은 표현의 자유 권리를 존중하기 위해 정책 위반이 없는 수정된 사진과 사운드는 더 이상 삭제하지 않고 대신 용어와 맥락에 의존할 것이라고 추가로 밝혔습니다. 이 회사는 'AI로 제작됨' 라벨을 포함할 것이라고 선언했으며, Facebook, Threads 및 Instagram 게시물은 모두 이 정책에 적용됩니다.

Meta는 현재 정책이 '너무 협소하다'고 인정하며 오디오, 비디오 및 이미지 콘텐츠의 더 많은 부분을 인공지능(AI) 생성으로 지정하기 시작할 것이라고 발표했습니다. 회사는 탐지 방법에 대해 자세히 설명하지 않았지만, 사용자가 AI 도구 사용 사실을 자백하거나 Meta가 업계 표준인 AI 이미지 지표로 콘텐츠를 인식할 때 라벨이 적용될 것입니다.

Meta의 감독 위원회 비판에 대한 대응

이 수정안은 Meta의 독립적인 평가 패널인 Meta 감독 위원회의 비판에 의해 촉발되었습니다. AI의 엄청난 발전과 미디어가 매우 설득력 있는 딥페이크로 조작되기 쉬운 점 때문에, 위원회는 2월에 Meta에…

미디어 조작에 대한 전략을 신속하게 재평가할 것을 요청했습니다. 지역 및 글로벌 차원에서 중요한 선거 해를 앞두고, 위원회는 플랫폼에서 AI 기반 애플리케이션의 오용 증가에 대한 우려 속에서 이 경고를 발출했습니다.

콘텐츠 정책 부사장인 Monika Bickert는 다음과 같이 말했습니다.

“우리는 기존 접근 방식이 AI를 사용하여 인물이 말하지 않은 내용을 말하도록 만드는 영상만을 다루기 때문에 너무 제한적이라는 감독 위원회의 주장에 동의합니다.”

출처: 메타

감독 위원회의 권고에 따라 Meta는 조작된 미디어에 대한 접근 방식을 전환하기로 결정했습니다. Meta는 콘텐츠의 기원과 진위성에 대한 투명성을 제공하기 위해 완전한 제거 대신 라벨링과 맥락화에 의존할 것입니다. Meta는 이것이 오해의 소지가 있거나 기만적인 미디어로 인한 피해로부터 보호하면서 표현의 자유를 고수하려는 헌신 때문이라고 말합니다.

AI 콘텐츠 라벨링 구현

Meta의 라벨링 프로젝트는 두 단계로 구현되며, 첫 번째 단계는 2024년 5월에 시작됩니다. AI 생성 콘텐츠(오디오, 비디오, 이미지 등 다양한 미디어 형식 포함)는 이 단계에서 적절하게 인식되고 분류될 것입니다. 또한 대중을 기만할 위험이 높다고 판단된 콘텐츠는 조작 가능성을 사용자에게 경고하기 위해 더 두드러지게 라벨링됩니다.

Meta의 두 번째 출시 단계는 7월에 가동될 예정이며, 이전 정책에만 근거한 수정된 미디어의 제거는 중단됩니다. AI로 조작된 콘텐츠가 혐오 발언을 금지하거나 선거에 개입하는 것과 같은 기타 커뮤니티 표준을 위반하지 않는 한, 새로운 규범 하에서 플랫폼에서 계속 접근 가능하게 유지됩니다. Meta는 플랫폼의 무결성을 보존하고 표현의 자유를 허용하는 균형을 맞추는 데 전념하고 있으며, 이 방법은 그 헌신을 나타냅니다.

Bickert는 추가로 말했습니다. 

“라벨은 감독 위원회가 라벨링을 권장한 조작된 콘텐츠 외에도 더 넓은 범위의 콘텐츠를 포함할 것입니다.” 

출처: Meta Inc.

AI 도구로 제작되었는지 여부와 상관없이, 괴롭힘, 선거 개입 및 스토킹과 관련된 기타 지침을 위반하는 콘텐츠는 여전히 삭제됩니다.

주요 디지털 거대 기업들과 AI 회사들은 2월 유권자를 기만하기 위한 조작된 콘텐츠에 대한 단속 조치에 합의했습니다. Meta, Google 및 OpenAI는 이미 AI 애플리케이션에서 생성된 사진에 사용할 단일 워터마킹 표준에 동의했습니다.