- 인도는 플랫폼에 모든 AI 콘텐츠를 표시하고 3시간 이내에 딥페이크를 제거할 것을 9일 내에 명령했으며, 해당 기술은 아직 작동하지 않습니다.
- C2PA 감지는 이미 실패했습니다: 업로드 중 라벨이 제거되고 오픈소스 도구는 이를 완전히 무시합니다.
- 5억 명의 인도 사용자는 기업들이 준수하거나 거대한 시장을 잃어야 함을 의미합니다.
인도는최근 도전장을 내놓았다. 이는 수출을 달성하기 불가능한 요구사항이다. 2월 20일부터 해당 국가에서 운영되는 소셜 미디어 기업들은 모든 가짜 AI 콘텐츠를 표기하고, 불법 딥페이크를 3시간 이내에 합니다 이러한 제거해야 한다. 이를.
화요일에 announced Tuesday 규칙은 Meta, Google 및 X와 같은 플랫폼에 사용자가 보기 전에 AI 생성 이미지, 비디오 및 오디오를 포착하고 표시하는 시스템을 배포하도록 압력을 가합니다. 기업들은 또한 사람들이 이러한 라벨을 제거하거나 숨기는 것을 방지해야 합니다. 수십억 의 자원에도 불구하고, 이러한 기술 거대 기업들은 현재 감지 도구를 신뢰성 있게 작동시키는 데 어려움을 겪고 있습니다.
대부분의 주요 플랫폼은 이미 C2PA라는 것을 사용하고 있으며, 이는 대부분의 주요 플랫폼은 이미 C⟦N1⟧PA라는 기술을 사용하고 있는데, 이는 파일 내부에 발표비밀 정보를 심어 콘텐츠의 생성 방식을 표시한다. 이는 디지털 콘텐츠의 영양 성분 표와 같다. 작동할 경우, 사용자는 사진이 실제 카메라로 촬영된 것인지 AI 생성물인지 확인할 수 있다. 페이스북, 인스타그램, 유튜브, 링크드인 이 이러한 콘텐츠를 표기하려 하지만, 라벨이매우잘 보이지 않아많은 가짜 콘텐츠가 누락된다.
이 시스템에는 주요 구멍이 있습니다. 오픈 소스 AI 도구 및 앱은 가짜 누드 사진을 만드는 데 종종 라벨링 과정을 완전히 생략합니다. 라벨이 존재할 때조차도, 많은 사이트에서 파일 업로드 중 they disappear합니다. C2PA의 지지자들은 수년간 이 기술이 성공하기 위해 더 넓은 채택이 필요하다고 saying the 주장해 왔습니다. 인도는 5억 명의 소셜 미디어 사용자를 대상으로 그 주장을 테스트할 예정입니다.
인도의 시장 지배력이 모든 것을 바꾸는 이유
인도에는 4억 8,100만 명의 Instagram 사용자, 4억 3천만 명의 Facebook 사용자, 5억 명의 YouTube 시청자, 2억 1,300만 명의 Snapchat 사용자가 있습니다. X는 인도를 세 번째로 큰 시장으로 간주합니다. country this large와 같은 큰 국가가 새로운 규칙을 만들면, 글로벌 기술 기업들은 일반적으로 한 곳뿐만 아니라 전역에서 시스템을 조정합니다.
이러한 추진력은 인도가 수개월 동안 딥페이크 위기를 다루고 있는 이후에 이루어집니다. 크립토폴리탄은 작년 10월에 볼리우드 배우 아비셰크 바찬과 아이슈와리아 라이 바찬이 자신의 얼굴을 사용한 가짜 비디오로 소송을 제기하며 거의 50만 달러의 손해배상을 요구했다고 보고했습니다. 부부는 YouTube의 AI 트레이너가 허락 없이 공개 콘텐츠를 가져와 나중에 자신의 이미지로 가짜 미디어를 생성하는 시스템을 훈련했다고 주장합니다. 이러한 사례와 함께 배우 라슈미카 만단나의 가짜 비디오가 바이럴되면서, 관료들을 행동하도록 밀어붙였습니다.
이 타이밍은 인도의 AI 야망과 일치합니다. 구글은 비사카파트남에 150억 달러 규모의 AI 허브를 구축 중이며, 이는 미국 외에서 회사의 최대 시설이 될 것입니다. 이 사이트는 기가와트 규모의 컴퓨팅 파워를 갖추고 있으며 2028년 7월에 개장할 예정입니다. 이러한 규모의 AI 인프라가 도착함에 따라, 규제당국은 먼저 콘텐츠 안전 규칙을 마련하고자 합니다.
비판가들은 “연속적인 검열”을 경고한다
긴 마감 기한은 표현의 자유 옹호자들을 걱정시킵니다. 인터넷 자유 재단(says the)은 3시간의 삭제 창이 회사들로 하여금 실수로 너무 많은 콘텐츠를 삭제하는 자동 시스템을 사용하도록 강요할 것이라고 말합니다. 그들은 그것을 “rapid fire censors”라고 부릅니다, there’s 인간이 보고서를 제대로 검토할 시간이 없기 때문입니다.
X와 같은 플랫폼은 아직 어떤 AI 라벨링도 설정하지 않았기 때문에, 이제 처음부터 전체 시스템을 구축하는 데 단 9일만 있습니다. Meta, Google 및 X는 모두 논평을 거부했습니다. C2PA의 뒤를 잇는 회사인 Adobe는 침묵 유지했습니다.
규칙을 작성하는 관료들은 현재 기술 준비되지 않았음을 알고 있는 것 같습니다. 요구사항은 플랫폼이 “기술적으로 실현 가능한 범위 내에서” 감지 방법을 사용해야 한다고 명시합니다 – 이는 완벽함이 기대되지 않는다는 것을 인정하는 법적 언어입니다. 인도 지도자들은 압력이 혁신을 이끌 것이라고 믿습니다. 그들은 기술 회사들이 더 나은 시스템을 구축하거나 수억 명의 사용자에게 접근하는 것을 잃어야 할 때, 그들이 빠르게 해결할 것이라고 베팅합니다.
더 나은 AI 감지 기술이 실제로 구축 가능한 것인지, 아니면 인도가 아직 만들 수 없는 것을 기업들에게 요구한 것인지, 그 진상은 아직 미지수다. 9일 후면 알게 될 것이다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
누르 바즈미
Noor Bazmi는 미디어학 학위를 갖춘 크립토폴리탄 뉴스 팀에 기여하고 있습니다. Noor은 블록체인, 암호화폐, 인공지능, 빅테크, 전기차 시장, 글로벌 경제 및 정부 정책 변화에 관한 뉴스를 보도합니다. 그녀는 글로벌 청중과 소통하기 위해 마케팅을 공부 중입니다.
