- 구글, SynthID 발표: AI 생성 이미지에 대한 보이지 않는 워터마크
- SynthID, 탐지 불가능한 워터마크로 딥페이크 우려 해소
- 업계 리더들이 협력하여 AI 콘텐츠 보안 강화
선다르 피차이는 자랑스럽게 다음과 같이 발표했습니다. “오늘 우리는 플랫폼에 제출된 이미지에 대한 디지털 워터마킹 및 검증을 가능하게 하는 최초의 클라우드 제공업체가 되어 기쁩니다.” 그는 또한 2022년부터 집중적인 개발 노력의 결과물인 SynthID가 AI 생성 이미지에 워터마킹을 적용하는 획기적인 접근 방식을 제공한다고 설명했습니다. 잘라내기, 크기 조정 또는 사진 조작 도구 등 다양한 기법을 사용하여 종종 변조될 수 있는 기존 워터마크와 달리 SynthID의 워터마크는 인간에게 보이지 않습니다. 이 혁신은 AI 생성 콘텐츠의 무단 변경이나 배포 시도를 저지하려는 의도를 담고 있습니다.
악의적 활동 제한을 위한 전략적 조치
새로운 기술의 잠재적 오용과 취약성에 대한 비판론자들의 우려를 고려하여, 구글은 전략적인 접근 방식을 선택했습니다. 초기 발표에서 구체적인 기술적 세부 사항이 부족하다는 지적이 있었음에도 불구하고, 구글의 이러한 이유는 악의적 행위자들이 기술을 악용하는 것을 방해하기 위한 것입니다. 구글 딥마인드의 CEO인 데미스 하사비스는 “작동 방식을 더 많이 공개할수록 해커와 악의적인 주체가 이를 우회하기 쉬워집니다.”라고 설명했습니다. 이러한 신중한 접근 방식은 취약점을 우발적으로 노출시키지 않으면서 보안을 강화하려는 구글의 의지를 강조합니다.
SynthID의 확장되는 가능성
아직 초기 단계이지만 SynthID의 잠재적 응용 분야는 이미지를 넘어섭니다. 데미스 하사비스는 SynthID가 비디오 및 텍스트 형식으로도 적응될 수 있다고 전망합니다. 그러나 하사비스는 SynthID가 유망한 한 걸음이지만 딥페이크라는 더 광범위한 문제에 대한 결정적인 해결책으로 간주될 수는 없다고 인정합니다. 생성형 AI 기술의 발전에 힘입어 딥페이크는 소셜 미디어 플랫폼에서 우려스러운 트렌드가 되었고, 이는 전 세계 규제 기관들의 경각심을 높이고 있습니다.
딥페이크의 딜레마와 규제 조치
딥페이크의 확산은 특히 2024년 선거 시즌이 다가오면서 우려를 불러일으켰습니다. 미국 연방선거위원회(FEC)를 포함한 규제 기관들은 AI 생성 이미지 및 비디오의 사용에 관한 규칙을 수립하기 위해 공개 논의를 시작했습니다. 특정 지역에서 여론을 조작하거나 폭력을 선동하는 데 딥페이크가 사용되면서 효과적인 보호 장치 마련의 시급성이 높아졌습니다. 구글의 SynthID 도입은 오픈AI와 메타와 같은 주요 기업들이 AI 생성 콘텐츠에 대한 라벨링 표준 및 메타데이터 솔루션 개발에 노력하는 더 넓은 산업 트렌드와 일치합니다.
협력적인 산업계의 노력
구글이 SynthID로 선두에 서 있는 것은 주목할 만하지만, 업계 동료들도 AI 생성 콘텐츠에 대한 논의에 적극적으로 기여하고 있습니다. 기술 분야의 주요 주체인 오픈AI와 메타는 모두 책임성과 보안을 강화하기 위한 방안을 모색하고 있습니다. 이러한 기업들은 보호 장치를 구현하고 라벨링 표준을 도입할 것을 약속했습니다. 이러한 업계 리더들 사이에서 공통적인 접근 방식 중 하나는 AI 생성 콘텐츠에 태그를 달기 위해 암호화 메타데이터를 통합하는 것입니다.
글로벌 우려와 유럽연합 AI법
향후 시행될 유럽연합 AI법은 AI 생성 콘텐츠를 “명확하게 라벨링”하는 것의 중요성을 강조합니다. 정치적 과정, 금융 시장, 심지어 Web3와 같은 디지털 생태계를 교란할 잠재력을 지닌 딥페이크의 무분별한 확산에 대해 유엔과 시민 사회 단체들은 우려를 표명했습니다. 선거와 보안에 미칠 수 있는 영향은 여전히 시급한 문제입니다.
결론적으로, 구글의 SynthID는 AI 생성 콘텐츠와 관련된 우려를 해결하기 위한 대담한 한 걸음입니다. 보이지 않는 워터마킹을 도입함으로써 구글은 이미지 품질을 유지하면서 무단 조작을 방지하기 위한 진전을 보이고 있습니다. 그러나 책임감 있는 AI 사용 보장을 위한 여정은 업계 리더, 규제 기관, 전 세계 이해관계자가 참여하는 협력적인 노력입니다. 기술이 진화함에 따라 디지털 생태계와 사회를 보호하기 위해 딥페이크 문제에 대한 포괄적인 해결책을 찾는 것이 필수적입니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. 크립토폴리탄은 이 페이지에 제공된 정보를 기반으로 한 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사 및/또는 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.
에디타 패트릭
에다타는 블록체인 도메인에 대한 깊은 이해를 갖춘 다재다능한 핀테크 분석가입니다. 기술이 그녀를 매료시키는 만큼, 기술과 금융의 교차점은 더욱 놀랍습니다. 디지털 지갑과 블록체인에 대한 그녀의 특별한 관심은 청중에게 도움이 됩니다.
