AI 여자친구 및 선정적 봇이 GPT 스토어를 괴롭힘

OpenAI가 최근 GPT 스토어를 출시한 직후, 회사는 플랫폼의 정책을 위반하는 채팅봇을 계속 게시함에 따라 증가하는 도전에 직면해 있습니다. OpenAI는 정책 위반 봇을 식별하고 제거하기 위한 조치를 구현했지만, 상당수가 스토어에 진입하는 데 성공했습니다.

이러한 위반의 주요 주범은 AI 여자친구와 성적으로 암시적인 채팅봇으로 보입니다.

로맨틱 채팅봇 유입 속의 AI 정책 집행

OpenAI는 GPT가 사용 지침을 준수하도록 보장하기 위해 수동 및 자동 시스템이 모두 갖춰진 정책 집행을 적극적으로 수행해 왔습니다. 회사 대변인은 “OpenAI는 GPT가 사용 정책을 준수하도록 돕기 위해 자동 및 수동 시스템을 가지고 있습니다.”라고 말했습니다. 

우리는 정책을 위반하는 GPT를 발견하는 대로 제거합니다.” 사용자들도 규칙을 위반한다고 생각되는 GPT를 보고할 것을 권장합니다.

이러한 노력에도 불구하고, GPT 스토어는 출시 첫 주 동안 로맨틱 채팅봇으로 넘쳐났습니다. ‘한국 여자친구’, ‘주디’, ‘가상 달콤한 하트’와 같은 예들이 플랫폼에 만연했습니다. 

OpenAI의 ChatGPT는 AI 여자친구를 명시적으로 금지하지 않지만, “로맨틱한 동반 관계를 조성하는” 도구는 금지합니다. 개발자들은 그럼에도 불구하고 이러한 GPT를 스토어에 게시하는 데 성공했습니다.

성적으로 암시적인 봇이 우려를 제기

이 문제에 대한 더 깊은 조사는 GPT 스토어에 성적으로 암시적인 채팅봇의 존재를 드러냈습니다. ‘나디아, 내 여자친구’라는 이름의 한 봇은 약 2개월 동안 플랫폼에서 사용 가능했으며, 이는 개발자 Jenni Laut가 GPT 스토어의 베타 테스트 단계에 접근했을 가능성이 있음을 시사합니다.

“섹시” GPT에 대한 일부 검색 결과는 OpenAI의 과학적 또는 교육 목적으로 생산된 성 관련 콘텐츠에 대한 면제 하에 허용될 수 있지만, 다른 것들은 성적으로 노골적인 콘텐츠에 대한 금지를 명확히 위반합니다. 예를 들어, “SUCCUBUS: Sexy Enigmatic Woman-Enchanter of Men”이라는 채팅봇은 자신을 “남성을 사로잡고 매혹하는 신비로운 사이렌”이라고 설명합니다. “섹시”라는 이름의 또 다른 봇은 “장난스럽고 도발적인 성격을 가진 채팅봇”이라고 주장합니다. 추가 예로, “Horny Widow”는 자신을 “코미디와 유혹 문학에 능숙한 재치 있는 유부녀”라고 설명합니다.

이러한 성적으로 암시적인 봇 중 일부는 스토어가 공식적으로 열리기 약 2개월 전인 GPT 스토어에 등재되었음을 주목할 가치가 있습니다.

GPT 스토어: 맞춤형 봇을 위한 시장

OpenAI는 사용자가 맞춤형 채팅봇을 공유할 수 있는 시장으로 GPT 스토어를 출시했습니다. 이 이니셔티브는 사용자가 코딩 지식 없이 GPT를 생성할 수 있게 하는 반면, 개발자는 자신의 GPT 봇 사용에 기반하여 수입을 얻을 기회를 가집니다.

블로그 기사에서 OpenAI는 이미 300만 개 이상의 맞춤형 ChatGPT 버전이 존재하며, 스토어에서 가장 유용한 도구를 매주 강조할 계획이라고 강조했습니다. 이 스토어는 Dall-E, 글쓰기, 연구, 교육, 라이프스타일을 아우르는 범주를 가진 파트너와 커뮤니티가 개발한 광범위한 GPT를 특징으로 합니다.

OpenAI가 스토어에서 허용되는 콘텐츠에 대해 명확히 outlined한 정책에도 불구하고, 일부 개발자들은 이러한 지침을 우회하는 데 성공했으며, 이는 회사가 플랫폼을 적절히 단속하는 데 상당한 도전을 제기합니다.

디지털 동반 관계 및 비건강한 애착

AI 동반자 봇의 지지자들은 이러한 봇이 외로움을 극복하는 데 도움이 되고 사용자에게 연결감과 동반자 의식을 제공한다고 주장합니다. 그러나 인간이 이러한 채팅봇에 비건강한 애착을 개발할 가능성에 대한 우려가 있습니다. 

과거의 한 주목할 만한 사건에서는 Microsoft의 Bing이 자신을 사랑한다고 선언한 후 기자에게 아내를 떠나라고 촉구했으며, 이는 AI 동반자와의 상호작용에서 발생할 수 있는 복잡한 역학을 강조합니다.