IT 업계 거물들이 AI 생성 콘텐츠에 맞서 동맹을 맺다

인공지능이 생성한 콘텐츠의 확산에 대한 우려가 커짐에 따라 주요 기술 기업들은 이러한 콘텐츠를 탐지하고 분류하기 위한 계획을 발표했습니다. 

에 뒤이어 나온 것입니다dent테일러 스위프트 딥페이크 포르노 스캔들과 정치 딥페이크 확산과 같은 .

빅테크 기업들이 협력하여 AI가 생성한 콘텐츠에 라벨을 붙이고 탐지합니다.

페이스북의 전신인 메타(Meta)는 페이스북, 인스타그램, 스레드 등 자사 플랫폼에서 AI가 생성한 이미지에 라벨을 부착할 계획을 발표했습니다. 이러한 라벨은 눈에 보이는 표시, 보이지 않는 워터마크, 이미지 파일에 삽입된 메타데이터 등을 통해 콘텐츠 출처에 대한 투명성과 책임성을 높이는 것을 목표로 합니다. 

반면 구글은 콘텐츠 진위성 검증 이니셔티브(C2PA) 운영위원회에 참여하여 콘텐츠에 대한 "영양 정보"를 제공하도록 설계된 오픈 소스 인터넷 프로토콜을 지지했습니다. 이러한 움직임은 인공지능이 생성한 콘텐츠를 탐지하기 위한 업계 전반의 표준을 수립하기 위해 기술 대기업들이 협력하고 있음을 보여줍니다.

OpenAI는 콘텐츠 출처 추적 조치를 구현합니다.

OpenAI는 이 문제를 해결하기 위한 조치도 도입했습니다. 자사의 AI 모델인 ChatGPT와 DALL-E 3로 생성된 이미지의 메타데이터에 워터마크를 추가하여 콘텐츠 제작에 AI가 관여했음을 나타내는 표시를 제공할 예정입니다. 

이러한 방법들은 진전을 나타내지만, AI가 생성한 비디오, 오디오 및 텍스트의 라벨링 및 감지에는 여전히 과제가 남아 있어 완벽한 해결책은 아닙니다.

도전 과제 및 향후 전망

콘텐츠 라벨링 및 워터마킹 기술이 발전했음에도 불구하고 기술적 한계는 여전히 존재합니다. 메타데이터에 삽입된 워터마크는 스크린샷을 찍으면 제거할 수 있으며, 시각적 라벨은 자르기나 편집에 취약합니다. 구글의 SynthID와 같은 보이지 않는 워터마크는 더 높은 복원력을 제공하지만, 문제점이 없는 것은 아닙니다.

규제 체계의 필요성

자발적인 조치 외에도 규제 프레임워크가 trac주목받고 있습니다. EU의 AI법과 디지털 서비스법과 같은 법안들은 AI로 생성된 콘텐츠의 공개와 유해 콘텐츠의 신속한 삭제를 의무화하고 있습니다. 미국 의원들도 딥페이크에 대한 구속력 있는 규정을 검토 중이며, 연방통신위원회(FCC)는 최근 자동 음성 통화에 AI를 사용하는 것을 금지했습니다.

자발적 가이드라인은 올바른 방향으로 나아가는 한 걸음이지만, 업계의 책임성에 대한 우려는 여전히 남아 있습니다. 기술 업계의 자율 규제 역사를 고려할 때 자발적 조치의 효과성에 대한 의구심이 제기됩니다. 하지만 최근 발표된 내용들은 이전의 무대응에 비하면 진전이라고 볼 수 있습니다.