오픈AI, 우려로 인해 AI 감지 도구 출시 지연

오픈AI는 ChatGPT 모델이 생성한 텍스트를 감지하도록 설계된 그간의 기대를 모았던 도구의 출시를 연기했습니다. 보고서에 따르면, 출시가 지연된 것은 사용자 경험과 생태계에 영향을 미칠 수 있는 가능한 문제들 때문입니다.

월스트리트 저널은 말했다 오픈AI가过去一年 동안 이 도구를 출시할 준비를 해왔지만, 주로 위험과 다양한 문제로 인해 출시하지 않았다고 합니다. 도구 출시를 연기하기로 한 선택은 사용자 입력과도 관련이 있는 것으로 보입니다. 오픈AI가 실시한 설문 조사에서 그들은 충성도 높은 ChatGPT 사용자 중 약 3분의 1이 부정행위 방지 기술의 도입으로 인해 위축될 수 있다는 것을 발견했습니다.

안티체팅 도구의 작동 방식

민주주의와 기술 센터(Center for Democracy and Technology)에 따르면, 중학교 및 고등학교 교사 59%가 학생들이 과제에서 AI를 사용했다고 믿고 있으며, 이는 전년 대비 증가한 수치입니다.

안티체팅 도구는 AI가 작성한 텍스트에 워터마크를 삽입하여 작동합니다. 이 워터마크는 육안으로 보이지 않지만, OpenAI의 감지 기술은 이를 포착할 수 있습니다. 이 도구는 주어진 텍스트가 ChatGPT에 의해 작성되었을 확률을 나타내는 점수를 제공합니다. 내부 문서에 따르면, 이 워터마킹 기법은 ChatGPT가 대량의 콘텐츠를 생성할 때 99.9%의 효과를 발휘하여 거의 완벽하다고 합니다.

그러나 이 도구와 관련하여 일부 문제가 제기되었습니다. 주요 우려 중 하나는 비영어권 원어민에게 불리할 수 있다는 점입니다. 일부 사람들은 워터마킹이 기대만큼 효율적이지 않거나, 영어 실력이 부족한 저자의 다른 작품을 표절로 잘못 표시할 수 있다고 우려합니다. 또한 비평가들은 워터마크를 번역하거나 이모지를 삽입 및 삭제함으로써 지우거나 조작할 수 있다고 우려를 표명했습니다.

또 다른 문제는 누구에게 감지 도구 사용 권한을 부여할지입니다. 접근을 제한하면 워터마킹 방법의 적용 가능성이 줄어들 수 있지만, 무료 접근을 허용하면该方法이 무용지물이 될 수 있습니다. 

다른 기술 거대 기업들도 유사한 솔루션을 개발 중

OpenAI는 아직 텍스트에 대한 안티체팅 도구를 구현하지 않았지만, 이미 오디오 및 비디오 출력에 워터마킹을 적용하기 시작했습니다. AI가 생성한 딥페이크가 텍스트 기반 콘텐츠보다 더 높은 위험을 초래하기 때문에, 이 회사는 멀티미디어 포맷을 우선순위로 간주하고 있습니다. 

다른 기술 기업들도 유사한 솔루션을 개발 중입니다. 예를 들어, Google은 아직 베타 단계에 있는 자체 워터마킹 솔루션인 SynthID를 개발하고 있습니다. 그러나 OpenAI는 전자의 영향력이 더 심각하고 선거년과 같은 중요한 시기에 발생할 수 있기 때문에 텍스트보다 오디오 및 시각적 워터마킹을 우선시했습니다. 

이러한 뉴스는 일론 머스크가 OpenAI를 고소하기 위해 법정으로 돌아온 시점에 나왔습니다. 그는 OpenAI와 그 설립자들인 샘 알트먼과 그렉 브로크만이 인류 개선을 위한 AI 개발이라는 원래 목표에서 벗어났다고 주장했습니다.