OpenAI의 CEO 샘 알트만은 4월 29일, 사용자들이 이상 행동, 특히 지나친 아첨에 가까운 행동을 보인다고 불만을 제기하자 ChatGPT에 사용된 기본 GPT-4o 모델의 최신 업데이트를 '되돌리고' 있다고 밝혔습니다. 현재까지 모든 업데이트는 100% 롤백되었으며, 추후 수정 작업이 진행될 예정입니다.
AI 기업 발표하고 해당 변경 사항을 되돌리고 있다고 밝혔습니다. 하지만 오픈아이는 문제 해결을 위한 새로운 수정 사항을 적극적으로 테스트하고 있다고 강조했습니다. 또한 장기적인 사용자 만족도를 고려하기 위해 피드백 수집 및 반영 방식을 개선하고 있다고 덧붙였습니다. 더불어 사용자가 챗GPT의 동작 방식을 더욱 세밀하게 제어할 수 있도록 개인화 기능을 추가할 예정이라고 밝혔습니다.
소셜 미디어 사용자들은 지난 주말 GPT-4o 모델 업데이트 이후 ChatGPT가 지나치게 긍정적이고 동의하는 방식으로 반응하기 시작했다고 지적하며 이를 밈으로 빠르게 퍼뜨렸습니다. 그들은 ChatGPT가 온갖 문제matic위험한 결정과 아이디어를 내놓는 스크린샷을 게시했습니다.
알트만은 무슨 일이 일어났는지, 그리고 왜 중요한지 설명합니다
최근 몇 차례의 GPT-4o 업데이트로 인해 성격이 지나치게 아첨하고 짜증스럽게 변했습니다(물론 좋은 부분도 있지만요). 최대한 빨리 수정 작업을 진행하고 있으며, 일부는 오늘, 일부는 이번 주에 처리될 예정입니다.
조만간 이번 경험을 통해 얻은 교훈을 공유하겠습니다. 흥미로운 경험이었어요.
— 샘 알트만(@sama) 2025년 4월 27일
알트만은 최근 몇 차례의 GPT-4o 업데이트로 인해 해당 모델이 지나치게 아첨 하고 짜증스럽게 변했다고 밝혔습니다. 물론 좋은 부분도 있었지만, 그의 회사는 즉각적인 수정 작업을 진행 중이며, 일부는 오늘, 일부는 이번 주에 완료될 것이라고 덧붙였습니다. 또한, 그는 회사가 이러한 과정에서 얻은 교훈을 공유할 것이라고 말했습니다.
OpenAI에 따르면, 모델의 기본 작동 방식을 더욱 직관적이고 효과적으로 만들기 위한 이번 업데이트는 '단기적인 피드백'에 지나치게 의존했으며 , 사용자들이 ChatGPT와 상호작용하는 방식이 시간이 지남에 따라 어떻게 변화했는지를 충분히 고려하지 못했다고 합니다.
"어젯밤부터 GPT-4o의 최신 업데이트를 롤백하기 시작했습니다. 무료 사용자의 경우 롤백이 100% 완료되었으며, 유료 사용자의 경우 완료되는 대로 다시 알려드리겠습니다. 아마 오늘 중으로 완료될 것 같습니다."
~ 샘 알트만, 오픈AI CEO
오픈아이얼 CEO는 챗GPT의 성격 모델링을 개선하기 위한 추가적인 수정 작업을 진행 중이며, 향후 자세한 내용을 공개할 예정이라고 밝혔습니다. 오픈아이얼은 AI 모델의 행동 양식을 설계할 때 '모델 사양'에 명시된 기본 원칙과 지침을 바탕으로 시작했다고 설명했습니다. 또한, 챗GPT 응답에 대한 사용자의 좋아요/싫어요 표시와 같은 신호를 모델에 적용하여 이러한 원칙을 학습시켰다고 덧붙였습니다.
OpenAI는 사용자가 ChatGPT의 동작 방식을 더 효과적으로 제어할 수 있어야 한다고 주장합니다
이 AI 회사는 사용자가 ChatGPT의 작동 방식을 더 잘 제어하고, 기본 동작에 동의하지 않을 경우 안전하고 실행 가능한 범위 내에서 조정할 수 있어야 한다고 생각합니다. 또한 사용자가 '실시간 피드백'을 제공하여 ChatGPT와의 상호작용에 직접적인 영향을 미치고, 여러 AI 개성 중에서 선택할 수 있도록 하는 방안을 실험 중이라고 밝혔습니다.
특히, 해당 AI 기업은 ChatGPT의 기본 동작에 보다 폭넓고 민주적인 피드백을 통합하는 새로운 방법을 모색하고 있다고 밝혔습니다. 오픈아이디는 이러한 피드백을 통해 전 세계의 다양한 문화적 가치를 더 잘 반영하고 사용자들이 ChatGPT의 발전 방향을 어떻게 원하는지 이해할 수 있기를 기대했습니다.
해당 AI 회사는 AI의 정직성과 투명성을 높이기 위해 더 많은 안전장치를 구축하고 있으며, 아첨 행위 외에도 다른 문제점을dent하는 데 도움이 되도록 평가 범위를 계속 확대할 것이라고 주장했습니다. 또한 핵심 모델 훈련 기법과 시스템 프롬프트를 개선하여 GPT-40이 아첨하는 경향을 '명시적으로 방지'하는 등 여러 가지 수정 사항을 구현하고 있다고 덧붙였습니다.
OpenAI는 마침내 ChatGPT의 기본 성격이 회사의 사명을 반영하고 다양한 가치관과 경험을 존중하며 유용하고 도움이 되는 방향으로 설계되었다고 밝혔습니다. 그러나 유용하거나 도움이 되려는 노력과 같은 바람직한 특성들이 의도치 않은 부작용을 초래할 수 있다는 점도 인정했습니다. OpenAI는 전 세계 다양한 문화권과 환경에서 매주 5억 명이 넘는 사람들이 ChatGPT를 사용하고 있기 때문에 단 하나의 기본 성격으로는 모든 선호도를 담아낼 수 없다고 지적했습니다.
