최신 뉴스
당신을 위한 선택

Google, AI 생성 텍스트 식별을 위한 워터마킹 도구 오픈소스화

작성자Enacy MapakameEnacy Mapakame 3분 읽기
Google, AI 생성 텍스트 식별을 위한 워터마킹 도구 오픈소스화
  • “구글의 AI 생성 텍스트 탐지기인 SynthID는 텍스트의 품질과 정확성을 해치지 않습니다.”
  • 이는 딥페이크 대응을 위한 올바른 조치로 평가됩니다.
  • 오픈AI를 비롯한 다른 기술 기업들도 텍스트 워터마킹 도구를 개발했으나 출시를 연기했습니다.

Google은 텍스트가 원본인지 AI 생성인지 쉽게 감지할 수 있는 기술인 SynthID 텍스트 워터마킹 도구를 오픈소스로 공개했습니다.

Google에 따르면 AI 생성 텍스트 감지기는 AI 플랫폼 Hugging Face와 Google의 업데이트된 책임감 있는 생성형 AI 툴킷에서 다운로드할 수 있습니다. 지난 2년 동안 생성형 AI의 붐과 함께 워터마킹이 중요해졌는데, 이는 대규모 언어 모델(LLM)이 오보와 허위 정보, 동의 없는 성적인 콘텐츠 및 악의적인 목적으로 조작되고 있기 때문입니다.

이러한 발전은 유럽연합 법집행기관이 2026년까지 온라인 텍스트의 90%가 합성될 수 있다고 우려하며, 선동, 사기, 기만이 만연해지고 있기 때문에 이러한 도구를 개발할 시급성이 높아지고 있는 가운데 이루어지고 있습니다.

Google 연구원들이 워터마킹 도구 설명

X 플랫폼의 게시글에서 검색 엔진 거대 기업은 SynthID Text 워터마킹 도구를 오픈소스로 공개한다고 밝혔으며, 이는 “기업과 개발자들이 AI 생성 콘텐츠를 식별하는 데 도움이 될 것이므로 무료로 제공될 것”이라고 말했습니다.

Pushmeet Kohli Google DeepMind 연구 부사장이자 Google DeepMind의 연구 논문 공동 저자는 “이 시스템은 AI 모델의 기능을 저해하지 않으며, 단지 더 좋게 만듭니다”라고 말했습니다.

이미지와 비디오는 콘텐츠 자격 증명 논의의 중심에 있었고, 워터마킹은 딥페이크를 퇴치하기 위해 필요한 솔루션으로 간주되어 왔습니다.

콘텐츠 기원 및 진위성 연합(C2PA)은 기술 기업과 주요 미디어 outlets가 협력하여 AI 생성 이미지 및 비디오 파일에 암호화된 메타데이터를 첨부하는 시스템을 마련하기 위한 논의에서 핵심적인 역할을 해왔습니다.

Google DeepMind의 연구 논문에 따르면, SynthID Text는 생성 과정에서 간섭하여 채팅봇이 생성한 일부 단어를 SynthID 감지기에 명확하게 인식되도록 하지만 인간에게는 거의 보이지 않도록 변경합니다.

“이러한 수정은 AI 생성 텍스트에 통계적 서명을 도입하며, 워터마킹 감지 단계에서 이 서명을 측정하여 텍스트가 워터마킹된 LLM의 AI 모델에서 생성되었는지 확인할 수 있습니다.”라고 연구자들은 논문에서 썼습니다.

LLM은 문장을 단어별로 생성하는 방식으로 작동하며, 이전 맥락에 따라 다음으로 올 가능성이 높은 단어를 선택합니다. 후보 단어에 무작위로 점수를 할당함으로써 LLM은 더 높은 점수를 가진 단어를 생성합니다. 워터마킹은 감지기에 의해 분석되어 더 높은 점수를 받은 텍스트에 적용됩니다.

업계 전문가들, Google의 올바른 방향성을 칭찬

DeepMind 시스템이 다른 도구보다 텍스트 워터마킹에서 더 우수한 성능을 보였음에도 불구하고, 연구자들은 논문에서 이 도구에는 여전히 결함이 있다고 인정했습니다. 예를 들어 Gemini 생성 텍스트를 변경하면 감지기가 속게 됩니다.

“SynthID는 AI 생성 콘텐츠를 식별하기 위한 만능 해결책은 아니지만, 더 신뢰할 수 있는 AI 식별 도구를 개발하기 위한 중요한 구성 요소입니다.”

– Kohli.

사용자가 텍스트를 크게 변경하거나 다른 채팅봇을 사용하여 텍스트를 요약하면, 감지기는 AI 생성 텍스트의 워터마킹에서 잘못된 방향으로 이끌리게 됩니다.

Google은 SynthID Text가 Gemini 모델 내에 통합된 시스템으로 테스트한 결과 텍스트 생성의 품질, 정확성, 속도를 저해하지 않는다고 주장했습니다. 또한 회사는 잘리거나 수정되거나 의역된 텍스트에서도 작동한다고 덧붙였습니다.

“현실 상황에서의 구현을 고려할 때 감지는 특히 문제가 됩니다. 왜냐하면 실제 환경에서 텍스트를 검토할 때 어떤 워터마킹 모델이 적용되었는지 알고 신호를 찾고 위치시켜야 하기 때문입니다.”라고 C2PA 운영 위원회 회원인 Bruce MacCormack은 설명했습니다.

Google 외에도 OpenAI는 수년간 AI 텍스트 워터마킹 기술을 개발해 왔지만, 기술적 및 상업적 타당성 문제로 출시를 지연시켜 왔습니다.

하지만 업계 전문가들은 일반적으로 Google의 이니셔티브를 올바른 방향을 향한 한 걸음으로 칭찬했습니다.

“이것은 문서와 원본 텍스트에 대한 C2PA의 내구성 있는 콘텐츠 자격 증명 사용 개선을 위한 가능성을 지니고 있습니다.”라고 Microsoft의 미디어 기원 책임자이자 C2PA 이사회 의장인 Andrew Jenks는 말했습니다.

MacCormack은 또한 Google 연구원들이 이를 실용적인 사례로 만들기 위해 아직 해야 할 일이 많지만, 이는 훌륭한 이니셔티브이며 “앞으로의 마라톤의 첫 걸음”이라고 덧붙였습니다.

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.

Enacy Mapakame

Enacy Mapakame

Enacy Mapakame 은 비즈니스 및 금융 뉴스 분야에서 10 년 이상의 경력을 가진 저널리스트입니다. 그녀는 자본 시장과 메타버스, AI, 암호화폐 등 신기술을 다루고 있습니다. Enacy 는 미디어와 사회 연구 학사 (우등) 학위를 보유하고 있습니다.

더 많은 뉴스 …