Meta, 페이스북과 인스타그램에서 AI가 생성한 미디어에 라벨을 부착합니다

페이스북과 인스타그램의 모회사인 메타는 5월부터 합성 미디어에 수동 태그를 적용하는 작업을 중단한다고 밝혔습니다. 이러한 규제는 자사 미디어에 만연한 딥페이크 및 허위 정보 공격의 부담을 완화할 수 있습니다.

허위 정보 우려 해소

메타는 인공지능 기술의 급속한 발전과 그에 대한 비판 여론에 대응하여 합성 콘텐츠 확산을 막기 위한 새로운 조치를 취할 것으로 예상됩니다. 2024년 5월부터 메타는 텍스트, 이미지, 오디오, 비디오 콘텐츠에 인공지능을 이용해 제작 또는 수정된 경우 "AI로 제작됨(Made with AI)"이라는 라벨을 부착할 예정입니다.

메타가 AI로 제작된 콘텐츠에 태그를 달기로 한 결정은 사용자에게 더 많은 정보를 제공하고 투명성을 높이려는 회사의 광범위한 캠페인의 일환입니다. 이는 페이스북이 조작된 콘텐츠를 직접 삭제할 수는 없겠지만, 맥락을 설명하는 라벨을 추가로 부착할 수 있음을 의미합니다. 마크 저커버그 메타 CEO는 조작된 미디어의 유해성에 대한 교육 프로그램을 궁극적으로 시작할 것이라고 밝힌 바 있습니다. 이는 페이스북이 의뢰한 감독위원회의 조사 결과이기도 합니다.

그러나 인공지능 기반 애플리케이션이 가짜 뉴스 유포에 이용되어 선거 과정에 개입할 수 있다는 우려가 제기되었습니다. 둘째로, 위원회는 시급성을 강조하며 특히 어느 나라든 선거 기간에는 효과적인 대응책이 절실히 필요하다고 역설했습니다.

시행 계획 및 정책 수정

정책 시행 전에 삭제된 조작된 미디어 콘텐츠는 추후 다시 활성화되어 페이스북 뉴스 콘텐츠 페이지에서 소비자가 볼 수 있게 됩니다. 새로운 기준에 따라 AI로 조작된 콘텐츠는 혐오 발언이나 선거 방해와 같은 다른 플랫폼 규칙을 위반한 경우에만 삭제됩니다.

콘텐츠 조작 문제를 다루는 여러 협약 중 하나인 메타(Meta)는 다른 기술 대기업 및 AI 개발자와의 협력에 중점을 두고 있습니다. 메타, 구글, 오픈AI는 모두 보이지 않는 통합 워터마크 태그를 통한 상호 운용성 협약에 합의했으며, 이를 AI 기반 이미지 자동 분석 애플리케이션에 활용할 예정입니다. 그러나 이러한 문제에 접근하는 과정에서, 특히 이러한 정책에 의존하지 않을 수 있는 오픈 소스 코드와 관련된 솔루션의 효과에 대한 의문은 여전히 ​​남아 있습니다.

최근 인공지능으로 제작된 딥페이크 영상이 실제 영상으로 밝혀지는 사례가 늘면서 가짜 콘텐츠에 대한 사회적 불안감이 더욱 커지고 있습니다. 메타(Meta) 서비스는 가짜 콘텐츠에 라벨을 붙이고 사용자가 사이트에서 접하는 콘텐츠의 진위 여부에 대한 필수적인 정보만을 제공함으로써 이러한 문제를 해결하고자 합니다.

최근 소셜 미디어 거대 기업 페이스북이 페이스북과 인스타그램에서 AI가 생성한 콘텐츠에 라벨을 붙이겠다고 발표한 것은 딥페이크와 허위 정보로 인한 불안감을 해소하기 위한 선제적 조치로 볼 수 있습니다. 이러한 접근 방식은 AI로 인해 발생하는 모든 위험을 제거하고 표현의 자유를 수호하는 데 목적이 있습니다. AI 기술 발전 속도가 빠르고 가짜 뉴스가 끊임없이 변화하는 현실을 고려할 때, 이러한 노력은 AI 관련 문제 해결에 상당한 성공을 거두었지만 여전히 심각한 과제로 남아 있습니다.