OpenAI는 자사의 ChatGPT 모델에서 생성된 텍스트를 감지하도록 설계된, 오랫동안 기대를 모았던 도구의 출시를 연기했습니다. 보도에 따르면, 사용자 경험과 생태계에 영향을 미칠 수 있는 문제 발생 가능성으로 인해 출시가 연기되었다고 합니다.
월스트리트 저널은 OpenAI 가 지난 1년간 해당 도구 출시를 준비해 왔지만, 주로 위험과 여러 문제로 인해 출시하지 못했다고 보도했습니다. 도구 출시 연기 결정은 사용자의 의견과도 관련이 있는 것으로 보입니다. OpenAI가 실시한 여론조사에 따르면, 충성도 높은 ChatGPT 사용자의 거의 3분의 1이 부정행위 방지 기술 도입에 거부감을 느끼는 것으로 나타났습니다.
안티치팅 도구의 기능
민주주의와 기술 센터에 따르면, 중·고등학교 교사의 59%가dent이 과제에 AI를 활용했다고 믿는데, 이는 전년보다 증가한 수치입니다.
이 부정행위 방지 도구는 AI가 작성한 텍스트에 워터마크를 삽입하는 방식으로 작동합니다. 이 워터마크는 육안으로는 보이지 않지만, OpenAI의 탐지 기술은 이를 감지할 수 있습니다. 이 도구는 주어진 텍스트가 ChatGPT가 작성했을 확률을 나타내는 점수를 제공합니다. 이 워터마킹 기술은 거의 완벽에 가깝다고 알려져 있는데, 내부 문서에 따르면 ChatGPT가 대량의 콘텐츠를 생성할 때 99.9%의 효율성을 보이는 것으로 나타났습니다.
하지만 이 도구와 관련하여 몇 가지 문제점이 제기되었습니다. 가장 큰 우려는 영어가 모국어가 아닌 사람들에게 불리할 수 있다는 것입니다. 일부 사람들은 워터마킹이 제대로 작동하지 않거나 영어 실력이 부족한 작가의 다른 작품을 표절로 분류할 수 있다는 우려를 표명했습니다. 또한, 워터마크를 번역하거나 이모티콘을 삽입 및 삭제하는 방식으로 워터마크를 지우거나 조작할 수 있다는 우려도 제기되었습니다.
또 다른 문제는 누가 탐지 도구를 사용할 수 있도록 허용해야 하는가입니다. 접근을 제한하면 워터마킹 기법의 적용 가능성이 낮아질 수 있지만, 자유로운 접근을 허용하면 해당 기법의 효과가 사라질 수 있습니다.
다른 기술 거대 기업들도 유사한 솔루션을 개발하고 있습니다.
OpenAI는 아직 텍스트 기반 부정행위 방지 도구를 구현하지 않았지만, 오디오 및 비디오 출력에는 이미 워터마킹을 적용하기 시작했습니다. AI 기반 딥페이크는 텍스트 기반 콘텐츠보다 위험성이 높기 때문에 OpenAI는 이러한 멀티미디어 형식을 우선적으로 고려하고 있습니다.
다른 기술 회사들도 유사한 솔루션을 개발하고 있습니다. 예를 들어, 구글은 SynthID라는 자체 워터마킹 솔루션을 개발 중인데, 아직 베타 단계에 있습니다. 그러나 OpenAI는 텍스트보다 오디오 및 비주얼 워터마킹을 우선시했습니다. 오디오 및 비주얼 워터마킹의 영향이 더 심각하고 선거 연도와 같은 중요한 시기에 발생할 수 있기 때문입니다.
이 소식은 엘론 머스크가 OpenAI를 고소하기 위해 법정에 다시 선 가운데 나왔습니다. 그는 OpenAI와 그 창립자인 샘 알트먼과 그렉 브록먼이 인류의 발전을 위한 AI를 만드는 원래 목표에서 벗어났다고 비난했습니다.
