- 빅테크는 AI 생성 콘텐츠 감지 조치를 구현하여 투명성을 강화합니다.
- AI 생성 미디어의 라벨링 및 감지 측면에서 기술적 과제가 여전히 존재합니다.
- 규제 체계가 AI 생성 콘텐츠 퇴치를 위한 자발적 노력과 함께 등장하고 있습니다.
AI 생성 콘텐츠의 확산에 대한 우려가 커짐에 따라 주요 기술 기업들은 이러한 콘텐츠를 감지하고 표시하기 위한 이니셔티브를 발표했습니다.
이러한 노력은 테일러 스위프트 딥페이크 포르노 스캔들 및 정치적 딥페이크의 확산과 같은 사건 이후 이루어졌습니다.
빅테크 기업들이 협력하여 AI 생성 콘텐츠를 식별하고 표시합니다.
구형 페이스북인 메타(Meta)는 페이스북, 인스타그램, 스레드(Threads)를 포함한 플랫폼에서 AI 생성 이미지에 라벨을 붙일 계획을 발표했습니다. 이러한 라벨(가시적 표시, 보이지 않는 워터마크, 이미지 파일에 내장된 메타데이터)은 콘텐츠의 출처에 대한 투명성과 책임성을 높이는 것을 목표로 합니다.
한편 구글은 콘텐츠 진위성 이니셔티브(Content Authenticity Initiative, C2PA)의 운영 위원회에 가입하여 콘텐츠에 '영양 성분 표'를 제공하도록 설계된 오픈 소스 인터넷 프로토콜을 지지했습니다. 이 조치는 기술 거대 기업들이 AI 생성 콘텐츠를 감지하기 위한 업계 전체의 표준을 확립하기 위해 협력한다는 것을 의미합니다.
오픈AI, 콘텐츠 기원 증명 조치 시행
오픈AI도 이 문제에 대응하기 위한 조치를 도입했습니다. 이 회사는 ChatGPT 및 DALL-E 3의 AI 모델로 생성된 이미지의 메타데이터에 워터마크를 추가하여 콘텐츠 생성에 AI가 관여했음을 나타내는 가시적 라벨을 제공합니다.
이러한 방법들은 한 걸음 진전된 것이지만 완벽하지는 않으며, AI 생성 비디오, 오디오, 텍스트의 라벨링 및 감지에는 여전히 과제가 남아 있습니다.
도전 과제와 미래 전망
콘텐츠 라벨링 및 워터마킹의 발전에도 불구하고 기술적 한계가 지속됩니다. 메타데이터의 워터마크는 스크린샷을 캡처함으로써 우회될 수 있으며, 시각적 라벨은 잘리거나 편집될 수 있습니다. 구글의 SynthID와 같은 보이지 않는 워터마크는 더 큰 내구성을 제공하지만 여전히 과제가 있습니다.
규제 프레임워크의 필요성
자발적 조치 외에도 규제 프레임워크가 힘을 얻고 있습니다. EU의 AI법(AI Act) 및 디지털 서비스법(Digital Services Act)과 같은 이니셔티브는 AI 생성 콘텐츠의 공개와 유해 콘텐츠의 신속한 삭제를 의무화합니다. 미국 의원들도 딥페이크에 대한 구속력 있는 규칙을 검토 중이며, 연방통신위원회(FCC)는 최근 로보콜(자동 전화)에서 AI 사용 금지 조치를 취했습니다.
자발적 가이드라인은 올바른 방향으로의 한 걸음이지만, 업계의 책임성에 대한 우려는 여전히 존재합니다. 기술 부문의 자기 규제 역사는 자발적 조치의 효과성에 의문을 제기합니다. 그러나 최근 발표들은 이전의 무대책 상태에 비해 진전을 시사합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Emman Omwanda
에마누엘 옴완다의 전문 분야는 암호화폐 시장으로, 기본 분석과 기술 분석을 모두 포괄합니다. 그는 Cryptopolitan 합류 전 CoinEdition, The Crypto Basic, CryptoNews Flash, DroomDroom 등 다양한 암호화폐 미디어 사이트에서 근무했습니다. 케냐 케냐타 대학교에서 수학 및 컴퓨터 과학 학사 (BSc.) 학위를 취득했으며, 현재 커뮤니케이션 및 미디어 연구 학사 과정을 마지막 해에 재학 중입니다.
