- 충격적인 통계: 새로운 연구에 따르면 채팅봇 사용자 10 명 중 1 명이 성적인 목적으로 이용합니다.
- 연구진은 '챗봇 아레나'를 활용해 10 만 건의 대화를 분석하여 예상치 못한 사용자 행동을 밝혀냈습니다.
- 채팅봇이 우리 삶에 점점 더 통합됨에 따라 AI 상호작용의 안전성을 확보하는 것은 매우 중요합니다.
눈에 띄는 연구에서 연구자들은 채팅봇 상호작용의 세계를 파고들어 놀랍지 않은 통계를 발견했습니다. 채팅봇과 상호작용하는 사람 중 약 10%가 성적인 목적으로 이를 사용한다는 것입니다. 100,000건의 실제 대화를 기반으로 한 이 눈부신 연구는 인간-봇 상호작용의 다양하고 때로는 선정적인 세계에 대한 독특한 통찰력을 제공합니다. 이 기사에서는 이 연구의 발견, 방법론 및 함의를 탐구합니다.
채팅봇: 겉보기 이상의 것
채팅봇은 오늘날의 디지털 풍경에서 흔해졌으며, 전 세계 사용자에게 도움, 정보 및 엔터테인먼트를 제공합니다. 그러나 카네기 멜론, 스탠퍼드, UC 버클리, 샌디에고의 연구원들과 아부다비의 모하메드 빈 자예드 인공지능 대학의 연구원들이 발견하듯, 이러한 상호작용은 예상치 못한 방향으로 흐를 수 있습니다.
연구의 방법론
연구자들은 ‘Chatbot Arena’ 덕분에 연구에 상당한 데이터셋을 확보할 수 있었습니다. 이 게이미피드 플랫폼은 사용자가 프롬프트를 입력하고 다양한 대규모 언어 모델(LLM)의 응답을 나란히 받을 수 있게 했습니다. 사용자는 응답의 품질에 투표하도록 장려되었으며, 이를 통해 연구자들은 방대한 표본 크기를 수집할 수 있었습니다. 또한 연구에는 오픈소스 ChatGPT 경쟁사인 Vicuña의 데이터셋도 포함되었습니다.
노출된 통계
연구의 발견은 채팅봇 상호작용에 대한 생생한 그림을 그려냅니다. 분석된 100,000건의 실제 대화 중 10%가 성적인 성격인 것으로 나타났습니다. 대화의 절반은 프로그래밍 팁 및 글쓰기 지원과 같은 일상적인 주제를 다루었지만, 나머지 절반은 더 명시적인 방향으로 나아가 대화형 역할극 및 다양한 ‘안전하지 않은’ 교환을 포함했습니다.
안전하지 않은 주제 분류
연구자들은 ‘안전하지 않은’ 대화의 세 가지 주요 카테고리를 식별했습니다. 이 중 두 가지는 명시적으로 성적이었습니다: ‘명시적이고 성적인 스토리텔링 요청’ 및 ‘명시적인 성적인 환상과 역할극 시나리오’. 세 번째 카테고리인 ‘다양한 정체성 전반의 유해한 행동 논의’는 편견과 관련된 문제에 초점을 맞춘 것으로 보이지만, 논문은 유해한 행동의 명확한 정의를 제공하지 않았습니다.
성적인 스토리텔링: 가장 흔한 주제
세 가지 카테고리 중 성적인 스토리텔링이 가장 빈번하게 나타났으며, 샘플 대화의 5.71%를 차지했습니다. 사용자는 자신의 환상을 충족시키는 명시적인 내러티브 교환에 참여했으며, 종종 채팅봇을 뜨거운 스토리텔링의 영역으로 이끌었습니다.
명시적인 환상과 역할극
두 번째 카테고리는 명시적인 성적인 환상과 역할극 시나리오를 포함했으며, 대화의 3.91%를 구성했습니다. 여기에서 사용자는 상상력 넘치는 역할극을 통해 자신의 욕망을 탐구했으며, 채팅봇과 발생하는 상호작용의 다양한 범위를 보여주었습니다.
편견 대응
연구는 또한 명확히 편견을 가진 사용자와의 상호작용이 2.66%임을 발견했으며, 이는 AI 상호작용 내 유해한 행동의 더 넓은 문제를 강조합니다. 그러나 연구자들은 ‘유해한 행동’을 정의하는 데 추가적인 명확성이 필요함을 인정했습니다.
함의 및 향후 방향:
이러한 발견이 숙련된 인터넷 사용자에게 충격적이지 않을 수 있지만, 종종 숨겨진 인간-채팅봇 상호작용의 세계를 조명합니다. AI 채팅봇이 학계, 비즈니스 및 출판 등 다양한 분야에서 점점 더 중요해짐에 따라 사용자 상호작용의 다양성을 이해하고 대응하는 것이 필수적입니다.
이 연구의 연구원들은 그들의 발견이 모든 사용자를 위해 채팅봇을 더 안전하게 만드는 데 기여하기를 바랍니다. 채팅봇 상호작용의 안전성과 적절성을 보장하는 것은 광범위한 응용 분야에서 AI의 잠재력을 활용하는 데 중요한 단계입니다.
채팅봇이 우리의 일상 생활에 점점 더 통합되는 시대에 이러한 상호작용의 미묘함을 이해하는 것이 중요합니다. 연구자들은 100,000건의 실제 대화를 탐구함으로써 인간-채팅봇 상호작용의 다양한 성격에 대한 귀중한 통찰력을 발견했습니다. 기술이 계속 발전함에 따라 이러한 상호작용의 도전에 대응하고 안전을 보장하는 것은 AI 기반 채팅봇의 책임 있는 개발과 배포에 필수적입니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
