- 사용자들이 GPT-4o와 정서적 유대감을 형성하고 있습니다.
- 챗봇과의 정서적 유대는 사용자가 AI의 부정확함을 무시하게 만들 수 있습니다.
- OpenAI는 이러한 우려를 관리하기 위해 GPT-4o를 모니터링하고 조정할 예정입니다.
현재 출시된 GPT-4o는 인간과 유사한 대화를 모방할 수 있는 능력 때문에 많은 논의를 불러일으켰습니다. 그러나 OpenAI 블로그 게시글에 따르면, 사용자가 챗봇과 정서적 유대감을 형성하기 시작하면서 OpenAI는 이제 문제를 겪고 있습니다..
인간과 유사한 대화가 더 가능하다고 주장되는 GPT-4o가 출시된 이후, OpenAI는 사람들이 AI를 인간처럼 대하는 것을 관찰했습니다.
OpenAI, AI를 인간으로 대하는 것의 위험성 식별
이러한 발전은 사용자의 챗봇에 대한 정서적 연결과 관련하여 회사에 도전을 제기했습니다. OpenAI의 관찰에는 소유권 감각을 나타내는 감정이나 감정을 표시한 사용자 사례가 포함됩니다.
회사는 이러한 정서적 연결이 다음과 같은 부정적인 결과를 초래할 수 있다고 우려합니다. 첫째, 사용자가 챗봇이 제공하는 잘못된 정보를 무시하기 시작할 수 있습니다. 모델이 잘못되거나 기만적인 정보를 생성하는 AI 환각은 사용자가 AI를 인간과 유사한 존재로 대할 때 악화되는 또 다른 문제입니다.
제기된 또 다른 요인은 이러한 네트워크 사용자의 실제 사회적 관계에 미치는 영향입니다. OpenAI는 GPT-4o가 고독한 사람들의 동반자 역할을 할 수 있지만 인간 관계의 질에 부정적인 영향을 미칠 가능성이 있다고 지적합니다. 또한 사용자는 실제 상호작용에 임할 때 사람들이 챗봇처럼 행동하기를 기대할 수 있다고 회사는 지적합니다.
OpenAI, AI 상호작용 조정 계획
이러한 위험을 완화하기 위해 OpenAI는 이미 사용자가 GPT-4o와 상호작용하는 방식을 밀접하게 감독할 것이라고 밝혔습니다. 회사는 사람들이 정서적 유대감을 형성하는 과정을 탐색하고 챗봇의 응답을 수정하여 이를 반영할 것입니다. 이는 OpenAI가 챗봇이 사용자의 사회적 생활에 간섭하거나 AI 환각이 악화되는 것을 방지하는 데 도움이 될 것입니다.
OpenAI는 GPT-4o가 사용자가 그보다 더 많이 말하기 시작하면 연결을 끊도록 프로그래밍되어 있다고 지적했으며, 이는 과용을 줄이기 위한 기능입니다. 그러나 이러한 디자인 요소는 또한 사용자의 챗봇 경험에 대한 규제가 필요함을 시사합니다.
셰필드 대학교의 Tony Prescott에 따르면 AI가 고독을 해결하는 데 도움이 될 수 있습니다. 그의新书 'The Psychology of Artificial Intelligence'에서 Prescott은 AI가 고독한 사람들의 사회적 상호작용 수단으로 사용될 수 있다고 지적합니다. Prescott는 고독이 인간 삶에 영향을 미치는 주요 요인이라고 지적합니다. 이는 수명을 단축시키고 사망 확률을 26% 높일 수도 있습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
