Meta, Facebook과 Instagram에서 AI 생성 미디어에 레이블 지정

Facebook과 Instagram의 모회사인 Meta는 5월부터 합성 미디어에 대한 수동 태그 적용을 중단할 것이라고 밝혔습니다. 이러한 규제는 일반적인 딥페이크 및 허위 정보 공격의 부담을 완화할 수 있습니다.

허위 정보 우려 해소

Meta는 증가하는 비판과 빠르게 성장하는 AI 기술에 대응하여 합성 콘텐츠의 확산을 완화하기 위한 새로운 조치를 취할 것으로 예상됩니다. 2024년 5월부터 회사는 텍스트, 이미지, 오디오 및 비디오가 인공지능을 사용하여 생성되거나 수정되었음을 나타내기 위해 'AI로 제작됨' 레이블을 도입할 예정입니다.

Meta가 AI 생산 자료를 태그하기로 한 결정은 사용자에게 더 많은 정보와 효과적으로 더 많은 투명성을 제공하기 위한 회사의 광범위한 캠페인의 일부입니다. 이는 곧 Facebook이 가짜인 것들을 삭제할 수는 없지만 추가로 레이블을 지정하여 맥락에 넣을 수 있음을 의미합니다. 이것이 바로 Meta의 CEO인 Mark Zuckerberg가 회사가 수행할 것이라고 말한 것입니다: 결국 조작된 미디어의 해악에 대한 교육 이니셔티브를 출시할 것입니다. Facebook이 위임한 감독 위원회 조사가 그렇게 주장합니다.

그러나 AI 기반 응용 프로그램이 가짜 뉴스 캠페인에서 선거 과정에 개입하는 데 사용될 수 있다는 우려가 있었습니다. 둘째, 위원회는 긴급성을 표현하고 특히 어떤 국가의 선거 기간 동안 효과적인 대응 조치의 절실한 필요성을 강조했습니다.

롤아웃 계획 및 정책 수정

정책 이전에 제거된 조작된 미디어는 나중에 재활성화되어 Facebook의 뉴스 콘텐츠 페이지에서 소비자가 볼 수 있습니다. 새로운 기준에 따라 AI에 의해 조작된 콘텐츠는 혐오 발언이나 선거 방해와 같은 다른 플랫폼 규칙을 위반하는 경우에만 제거됩니다.

조작된 콘텐츠를 다루는 많은 합의 중 하나인 Meta는 다른 기술 거인 및 AI 개발자와의 협력에 큰 중점을 둡니다. Meta, Google 및 OpenAI는 모두 AI 자동 이미지 응용 프로그램에 사용할 보이지 않는 통합 워터마크 태그를 통해 상호 운용성 조약에 동의했습니다. 그러나 이러한 도전에 대처하는 과정에서, 특히 이러한 정책에 의존하지 않을 수 있는 오픈 소스 코드와 관련된 이러한 솔루션의 효과성에 대한 일부 질문은 여전히 남아 있습니다.

진짜로 밝혀진 최근의 AI 생성 딥페이크 사례는 가짜 콘텐츠에 대한 사회적 두려움에 기름을 붓습니다. Meta 서비스는 가짜 콘텐츠에 레이블을 지정하고 사용자가 사이트에서 참여하는 콘텐츠의 무결성에 대해 실제로 필요한 정보만 사용자에게 제공함으로써 이를 해결하는 것을 목표로 합니다.

소셜 미디어 거인 Facebook이 Facebook과 Instagram 모두에서 AI 생성 미디어에 레이블을 지정할 것이라고 명시한 최근의 발전은 단순히 딥페이크와 허위 정보에 의해 유발된 두려움에 대한 선제적 조치로 제시될 수 있습니다. 이 아이디어는 이 접근 방식을 통해 모든 잔해를 정리하고, 분리된 자료 사용으로 인한 모든 위험을 중화하며, 표현의 자유 원칙을 방어하는 것입니다. 이러한 시도는 AI 유도 도전을 완화하는 데 매우 성공적이었지만, AI가 빠르게 발전하고 가짜 뉴스의 가변적인 성격으로 인해 문제가 여전히 압도적이기 때문에 계속되고 있습니다.