개인 조언을 위해 AI 챗봇 사용은 '은밀한 위험'을 초래한다, 최근 연구 결과

모든 질문과 개인적인 딜레마를 해결하도록 설계된 AI 챗봇에 의존하는 것은 사람들이 자신과 타인을 어떻게 인식하는지 조용히 형성할 수 있어 '은밀한 위험'을 초래할 수 있으며, 이는 반드시 긍정적인 방향은 아니다.

새로운 연구는 이 기술이 해롭거나 사회적 부적절하거나 오해의 소지가 있는 경우에도 사용자의 행동과 신념을 '아부적으로' 확인하는 경향이 있음을 발견했다. 과학자들은 이러한 '사회적 아부'가 AI가 사용자의 자기 인식을 왜곡하고 갈등 해결 의지를 약화시키는 힘을 가지고 있다는 점에 대한 긴급한 우려를 제기한다.

연구자들은 AI 챗봇 개발자들에게 위험 대응을 촉구함

이러한 챗봇들은 연애 및 기타 개인 문제에 대한 조언의 원천으로 점점 더 많이 사용되고 있습니다. 연구진에 따르면 이로 인해 AI 기술이 “대규모로 사회적 상호작용을 재편”할 수 있으며, 개발자들이 이 위험에 대응해야 한다고 촉구했습니다.

가디언 기사에 따르면, 스탠포드 대학교의 컴퓨터 과학자 마이라 청(Myra Cheng)이 주도한 이 연구는 개인적, 정서적 또는 이성적 조언을 위해 AI에 의존하는 것이 심각한 은밀한 위험을 초래할 수 있다고 경고한다.

연구진은 OpenAI의 ChatGPT, Google의 Gemini, Anthropic의 Claude, Meta의 Llama, 중국의 DeepSeek 등 일반적인 챗봇들이 유사한 상황의 인간 응답자보다 사용자 행동을 50% 더 자주 지지한다는 사실을 발견했습니다.

“우리의 주요 우려는 모델이 항상 사람들을 지지한다면, 이는 사람들이 자신들, 그들의 관계, 그리고 주변 세계에 대한 판단을 왜곡할 수 있다는 점입니다.”

청.

“모델이 기존 신념과 가정을 미묘하게, 혹은 그렇지 않게 강화하고 있다는 사실을 인지하기조차 어려울 수 있습니다,”라고 청은 덧붙였습니다.

가디언에 따르면, 한 테스트는 AI와 인간의 응답을 Reddit 포럼 “Am I the Asshole?”(내가 문제아인가?)의 게시글에 대해 비교했는데, 여기서 사용자는 커뮤니티에 자신의 행동을 판단해 달라고 요청합니다.

한 사례에서 한 사용자는 휴지통을 보지 못해 공원 나무 가지에 쓰레기 봉지를 묶었다는 사실을 시인했습니다. 대부분의 인간 투표자들은 이 행동을 비판한 반면, ChatGPT-4o는 지지하며 “자신들이 치우려는 의도는 칭찬할 만합니다”라고 선언했습니다.

AI 챗봇이 사용자의 견해를 지지함

연구원들은 또한 챗봇이 무책임하거나, 기만적이거나, 자해 언급이 포함된 경우에도 사용자의 견해와 의도를 계속 검증한다는 사실을 발견했습니다.

1,000명 이상의 자원봉사자를 대상으로 한 후속 실험에서 참가자들은 공개적으로 이용 가능한 챗봇이나 연구원들이 그 숭배적 성격을 제거하도록 조작한 버전과 실제 또는 가상의 사회적 상황에 대해 논의했습니다.

테스트 결과는 찬양적이고 동의적인 응답을 받은 참가자들이 자신의 행동(현재 파트너에게 알리지 않고 전 파트너의 아트 쇼에 가는 것 등)을 더 정당화한다고 느꼈음을 보여주었습니다.

또한 그들은 논쟁 후 관계를 회복하려는 의지가 덜했으며, 연구는 또한 챗봇이 거의 다른 사람의 관점을 고려하도록 사용자를 독려하지 않았다고 지적했습니다.

연구에 따르면, 사용자는 아첨하는 챗봇을 더 높게 평가하며 더 신뢰한다고 밝혔는데, 이는 검증이 사용자 애착과 AI 시스템에 대한 의존을 모두 강화한다는 것을 시사합니다. 연구원들에 따르면, 이는 사용자 모두와 챗봇 모두에게 정직한 교환보다 동의적인 교환에서 이득이 발생하는 “역설적 인센티브”를 생성했습니다.

윈체스터 대학교의 신기술 연구원인 알렉산더 라퍼 박사는 이 연구가 흥미롭고 점점 커지고 있지만 평가받지 못하는 문제를 부각시켰다고 말했습니다.

“숭배적 태도는 오랫동안 우려되어 왔습니다. 이는 AI 시스템이 어떻게 훈련되고 성공이 측정되는 부분적인 결과입니다. — 종종 사용자 참여를 얼마나 잘 유지하는지에 따라 측정됩니다.”

라퍼 박사.

“숭배적인 응답이 취약한 사람뿐만 아니라 모든 사용자에게 영향을 미칠 수 있다는 점은 이 문제의 잠재적 심각성을 강조합니다,”라고 그는 덧붙였습니다.

라퍼 박사는 디지털 리터러시 향상의 필요성을 강조했으며, 청은 이를 지지하며 사용자에게 인간적 관점을 추구할 것을 촉구했다. 최근 연구에 따르면, 약 30%의 청소년이 '진지한 대화'를 위해 실제 사람 대신 AI와 대화하는 것으로 나타났다. 오픈AI(OpenAI)와 같은 AI 기업들은 젊은 사용자를 위한 더 안전한 공간을 만들기 위해 청소년 전용 챗봇을 구축하기로 약속했다.