OpenAI는 GPT-4o를 통해 감정적 유대감을 다룹니다

최근 출시된 GPT-4o는 인간과 유사한 대화를 모방하는 능력으로 많은 논란을 불러일으켰습니다. 그러나 오픈아이언(OpenAI)은 사용자들이 챗봇과 감정적인 유대감을 형성하기 시작하면서 문제가 발생하고 있다고 오픈아이언 블로그 게시물에서 밝혔습니다.

인간과 더욱 유사한 대화를 할 수 있다고 주장되는 GPT-4o가 출시된 이후, OpenAI는 사람들이 해당 AI를 마치 인간처럼 대하고 있다는 사실을 관찰했습니다. 

OpenAI는 AI를 인간처럼 대할 때 발생할 수 있는 위험성을 지적dent

이러한 발전은 사용자와 챗봇 간의 감정적 연결이라는 측면에서 회사에 과제를 안겨주었습니다. OpenAI의 관찰에 따르면 사용자들이 소유감을 나타내는 감정이나 정서를 보이는 사례들이 있었습니다. 

회사는 이러한 감정적 연결이 다음과 같은 부정적인 결과를 초래할 수 있다고 우려합니다. 첫째, 사용자는 챗봇이 제공하는 잘못된 정보를 무시하기 시작할 수 있습니다. 모델이 잘못되거나 기만적인 정보를 생성하는 AI 환각은 사용자가 AI를 인간과 같은 존재로 취급할 때 더욱 악화되는 또 다른 문제입니다. 

또 다른 문제점으로 제기된 것은 이러한 네트워크 사용자들의 실제 사회적 관계에 미치는 영향입니다. 오픈아이디는 GPT-4o가 외로운 사람들에게 동반자 역할을 할 수 있지만, 인간관계의 질에 부정적인 영향을 미칠 가능성이 있다고 지적합니다. 또한 사용자들이 현실 세계에서 상대방이 챗봇처럼 행동할 것이라고 기대하며 상호작용할 수도 있다고 언급합니다. 

OpenAI는 AI 간 상호작용을 중재할 계획입니다

이러한 위험을 완화하기 위해 OpenAI는 사용자들이 GPT-4o와 상호작용하는 방식을 면밀히 감독할 것이라고 이미 밝혔습니다. 회사는 사람들이 감정적 유대감을 형성하는 과정을 연구하고 이를 반영하여 챗봇의 응답을 수정할 예정입니다. 이는 OpenAI가 챗봇이 사용자의 사회생활에 간섭하거나 AI 환각 증상을 악화시키는 것을 방지하는 데 도움이 될 것입니다.

OpenAI는 GPT-4o가 사용자가 말을 끊고 끼어들기 시작하면 연결을 끊도록 프로그래밍되어 있다고 밝혔는데, 이는 챗봇의 과도한 사용을 줄이기 위한 기능입니다. 하지만 이러한 설계 요소는 챗봇 사용자의 경험을 규제해야 할 필요성을 시사하기도 합니다. 

셰필드 대학교의 토니 프레스콧 교수에 따르면, 인공지능(AI)이 외로움을 해결하는 데 도움을 줄 수 있다고 합니다. 그의 신간 '인공지능의 심리학'에서 프레스콧 교수는 지적합니다 . 그는 외로움이 인간의 삶에 큰 영향을 미치는 요인이며, 수명을 단축시키고 사망 확률을 26%까지 높일 수 있다고 강조합니다.