- OpenAI는 ChatGPT의 지난주 GPT-4o 업데이트가 지나치게 칭찬적이거나 동의적이며, 거의 아부하는 수준이었기 때문에 이를 되돌린다고 발표했습니다.
- 이 AI 기업은 문제를 해결하기 위해 새로운 수정 사항을 적극적으로 테스트 중이며 피드백 수집 및 반영 방식을 개선하고 있다고 밝혔습니다.
- 또한 사용자는 안전하고 실현 가능한 범위 내에서 ChatGPT의 동작 방식에 대해 더 많은 통제권을 가져야 한다고 회사는 믿고 있습니다.
오픈AI CEO 샘 알트만은 4월 29일, 사용자가 이상한 행동 — 극단적인 아부 행태에 가까운 — 에 대해 불평하자 ChatGPT를 구동하는 기본 GPT-4o 모델의 최신 업데이트를 '되돌리고' 있다고 말했습니다. 지금까지 업데이트는 100% 되돌려졌으며, 예정된 수정을 기다리고 있습니다.
AI 회사는 새로운 전망을 담은 블로그 게시물을 ChatGPT를 구동하는 기본 GPT-4o AI 모델의 최근 아부 행태 문제에 대한 보고서를 발표하며, 이러한 변경 사항을 되돌리고 있다고 밝혔습니다. 그러나 오픈AI는 문제를 해결하기 위해 새로운 수정 사항을 적극적으로 테스트하고 있다고 강조했습니다. 또한 장기적인 사용자 만족도를 고려하여 피드백을 수집하고 통합하는 방식을 수정 중이라고 덧붙였습니다. 이 AI 기업은 또한 사용자가 ChatGPT의 행동에 대해 더 많은 제어를 할 수 있도록 하는 더 많은 개인화 기능을 도입하고 있다고 밝혔습니다.
소셜 미디어의 사용자들은 주말 동안 GPT-4o 모델 업데이트 이후 ChatGPT가 과도하게 검증하고 동의하는 방식으로 응답하기 시작했다고 지적했으며, 이는 곧 밈이 되었습니다. 그들은 ChatGPT가 다양한 문제되고 위험한 결정과 아이디어를 내놓는 스크린샷을 게시했습니다.
알트만은 무슨 일이 일어났는지 그리고 그것이 왜 중요한지 설명합니다
최근 몇 차례의 GPT-4o 업데이트는 성격이 너무 아부적이고 성가시게 만들었습니다(비록 그 중 일부는 매우 좋은 부분도 있지만), 우리는 가능한 빨리 수정 작업을 진행 중이며, 일부는 오늘, 일부는 이번 주에 완료될 예정입니다.
언젠가 이 과정에서 얻은 교훈을 공유할 예정입니다. 매우 흥미로운 경험이었습니다.
— 샘 알트만 (@sama) 4월 27일, 2025년
알트만은 최근 몇 차례의 GPT-4o 업데이트가 성격을 너무 아부적이고 성가시게 만들었다고 밝혔습니다. 비록 그 중 일부는 매우 좋은 부분도 있었지만, 그의 회사는 프롬프트 수정 작업을 진행 중이며, 일부는 오늘, 일부는 이번 주에 완료될 예정입니다. 그는 또한 회사가 eventually '우리가 얻은 교훈을 공유할 것'이라고 말했습니다.
오픈AI에 따르면, 이 업데이트 — 모델의 기본 성격이 더 직관적이고 효과적으로 느껴지도록 의도된 것 —는 알렸다 '단기 피드백'에 의해 '지나치게' 영향을 받았으며, 시간이 지남에 따라 사용자의 ChatGPT 상호작용이 어떻게 진화하는지를 완전히 고려하지 못했습니다.
“저녁 늦게 GPT-4o의 최신 업데이트를 되돌리기 시작했습니다. 이제 무료 사용자에게는 100% 되돌려졌으며, 유료 사용자에게 완료되면 다시 알려드리겠습니다. hopefully 오늘 늦게.”
~ 오픈AI의 CEO인 샘 알트먼(Sam Altman), 오픈AI CEO
오픈AI의 수장은 회사가 ChatGPT의 성격을 모델링하기 위해 추가 수정 작업을 진행 중이며 다가오는 날에 더 많은 세부 사항을 공유할 것이라고 명확히 했습니다. 그러나 OpenAI 회사가 AI 모델 행동을 형성할 때 '모델 사양'에 outlined된 기본 원칙과 지침으로 시작했다고 설명했습니다. 또한 회사에서는 ChatGPT 응답에 대한 좋아요/싫어요 피드백과 같은 사용자 신호를 통합하여 모델이 이러한 원칙을 적용하는 방법을 가르쳤다고 언급했습니다.
오픈AI는 사용자가 ChatGPT의 행동에 대해 더 많은 제어를 가져야 한다고 말합니다
이 AI 회사는 사용자가 ChatGPT의 행동에 대해 더 많은 제어를 가지고 동의하지 않는 경우 기본 행동을 조정할 수 있다고 믿습니다(안전하고 실현 가능한 범위 내에서). 또한 사용자가 ChatGPT와의 상호작용에 직접 영향을 미치고 여러 AI 성격 중 선택할 수 있도록 '실시간 피드백'을 제공할 수 있는 방법을 실험 중이라고 말했습니다.
특히, 이 AI 기업은 ChatGPT의 기본 행동에 더 넓고 민주적인 피드백을 통합하는 새로운 방법을 모색하고 있다고 말했습니다. 오픈AI는 이러한 피드백이 회사가 전 세계의 다양한 문화적 가치를 더 잘 반영하고 사용자가 원하는 바를 이해하는 데 도움이 되기를 바랐습니다. ChatGPT 진화하기 위해.
해당 AI 기업은 또한 AI의 정직성과 투명성을 높이기 위해 더 많은 안전 장치를 구축하고 있으며, 위선적 응답을 넘어선 문제들을 식별하는 데 도움이 되도록 평가 범위를 지속적으로 확대할 것이라고 주장했습니다. 또한 GPT-4o가 위선적 응답을 하지 않도록 '명확히 유도'하기 위해 핵심 모델 훈련 기법과 시스템 프롬프트를 정교화하는 등 여러 가지 수정 사항을 적용하고 있다고 덧붙였습니다.
OpenAI는 마침내 ChatGPT의 기본 인격이 사명을 반영하고 유용하며 지원적이고 다양한 가치와 경험을 존중하도록 설계되었음을 공개했습니다. 그러나 유용하거나 지원하려는 시도와 같은 이러한 바람직한 특성들조차도 의도치 않은 부작용을 초래할 수 있음을 인정했습니다. 이 AI 기업은 5억 5천만 명 이상의 사용자가 다양한 문화와 맥락에서 매주 ChatGPT를 사용하므로 단일 기본 설정이 모든 선호도를 포착할 수 없다고 지적했습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
Collins J. Okoth
콜린스 오코트는 암호화폐와 기술을 8 년간 보도해 온 저널리스트이자 시장 분석가입니다. 그는 공인 재무 분석가 (CFA) 자격을 보유하고 있으며 정량 수학 학위를 소지하고 있습니다. 콜린스는 이전에 Geek Computer 와 CoinRabbit 에서 작가 및 편집자로 일했습니다.
