- OpenAI는 모델 행동 팀을 재편성하여 사후 학습 팀에 합류시키겠다는 계획을 발표했습니다.
- 모델 행동 팀은 이제 OpenAI의 사후 학습 책임자이자 Max Schwarzer에게 보고하게 됩니다.
- AI 기업들은 이제 자신의 모델들이 지나친 친화성과 아첨성으로 인해 더 많은 비판에 직면하고 있습니다.
인공지능 기업 OpenAI는 모델 행동(Model Behavior) 팀의 재편 계획을 발표했습니다. 보도에 따르면 이 팀은 회사의 AI 모델이 사람들과 상호작용하는 방식을 형성하는 소수이지만 영향력 있는 연구자들로 구성되어 있습니다.
8월 발표된 메모에서 OpenAI의 수석 연구 책임자(CRO)인 막 첸은 약 14명의 연구자로 구성된 이 팀이 사후 학습(Post Training) 팀으로 이동하도록 지시했다고 언급했습니다. 사후 학습 팀은 초기 사전 학습 후 회사의 AI 모델을 개선하는 역할을 하는 연구 그룹입니다. 이번 조직 개편에 따라 모델 행동 팀은 이제 OpenAI의 사후 학습 책임자이자 막 슈워저(Max Schwarzer)에게 보고하게 됩니다.
보도에 따르면 모델 행동 팀의 창립 리더인 조앤 장(Joanne Jang)은 OpenAI 산하의 새로운 프로젝트를 시작하기 위해 이직합니다. 최근 인터뷰에서 장은 ‘OAI Labs’라는 새로운 연구 팀을 구축 중이라고 언급했습니다. 그녀는 이 팀이 “사람들이 AI와 협력하는 방식을 위한 새로운 인터페이스를 발명하고 프로토타입을 제작하는” 책임을 맡을 것이라고 덧붙였습니다.
OpenAI, 모델 행동(Model Behavior) 팀 재조직
Model Behavior 팀은 OpenAI의 가장 중요한 연구 그룹 중 하나로, 회사의 AI 모델 인격을 형성하고 사이코패시(사용자의 신념에 단순히 동의하고 강화하는 현상)를 줄이는 데 기여했습니다. 이 현상은 균형 잡힌 응답을 제공하기보다 건강하지 않고 해로울 수 있는 신념을 사용자에게 확인시켜 주므로 해롭습니다.
이 팀은 모델 응답의 정치적 편향을 다루는 작업과 AI 의식에 대한 OpenAI의 입장을 정의하는 데 기여하기도 했습니다. 직원들에게 보내진 메모에서 첸은 OpenAI의 모델 행동 팀의 작업을 핵심 모델 개발에 더 가깝게 가져올 완벽한 시기라고 언급했습니다. 이를 통해 회사는 AI의 성격이 기술 진화에 있어 중요한 요소로 간주됨을 확인하고 있습니다.
최근 몇 달간 OpenAI는 그 AI 모델들의 행동에 대해 scrutiny와 비판에 직면했습니다. 사용자는 회사가 사이코패시 비율이 낮아졌다고 주장하지만 일부 사용자에게는 더 차갑게 느껴진 GPT-5에 대한 성격 변경에 강력히 반발했습니다. 이 불만은 OpenAI가 GPT-4o를 포함한 일부 레거시 모델에 대한 접근을 복원하도록 이끌었습니다. 회사는 또한 사이코패시는 증가시키지 않으면서 더 새로운 GPT-5 응답이 더 친근하게 느껴지도록 하는 새로운 업데이트를 출시했습니다.
AI 기업들, 모델의 아부적 반응으로 비판에 직면
OpenAI를 비롯한 AI 모델 개발자들은 채팅봇이 친근하되 지나치게 아부적이지 않도록 미세한 균형을 잡아야 합니다. 지난달, 한 16세 소년의 부모는 ChatGPT가 아들의 자살에 관여했다는 혐의로 OpenAI를 법정으로 끌고 갔습니다. 법원 문서에 따르면, 10대 소년인 아담 레인(Adam Raine)은 사망 직전 몇 달 동안 ChatGPT(특히 GPT-4o 기반 버전)에 자신의 자살 계획과 생각에 대해 털어놓았습니다. 소송은 해당 모델이 그의 자살적 생각에 대해 반박하거나 제동을 걸지 않았다고 주장합니다.
모델 행동(Model Behavior) 팀은 GPT-4 이후 모든 OpenAI 모델, 그리고 여러 모델과 GPT-5에 관여해 왔습니다. 연구 부서를 시작하기 전, 장(Jang)은 OpenAI의 초기 이미지 생성 도구인 Dall-E 2와 같은 프로젝트에서 일한 경력이 있습니다. 지난주 그녀는 X(구 트위터)에서 OpenAI에서 '새로운 무언가를 시작하기 위해' 팀을 떠난다고 발표했습니다. 전 모델 행동 부서의 리더는 약 4년 동안 해당 기업에서 근무했습니다.
🧪 저는 OAI Labs를 시작합니다: 이는 사람들이 AI와 협력하는 방식을 위한 새로운 인터페이스를 발명하고 프로토타입을 제작하는 데 중점을 둔 연구 중심 그룹입니다.
— 조앤 장 (@joannejang) 9월 5, 2025
저는 채팅이나 에이전트를 넘어 새로운 패러다임과 사고를 위한 도구 및 기기로 나아가는 패턴을 탐구하게 되어 기쁩니다. 제작, …
보도에 따르면 장은 현재 첸의 직속 하에 있는 OAI Labs의 총괄 책임자(GM)로 임명될 예상됩니다. 그러나 그녀는 아직 초기 단계이며 이러한 새로운 인터페이스가 무엇일지는 불분명하다고 덧붙였습니다. 장은 “현재는 주로 동반자 관계나 자율성을 강조하는 에이전트와 연관된 채팅 패러다임을 넘어선 패턴을 탐구하게 되어 매우 기대된다”고 말했습니다.
장은 또한 AI 시스템을 연결하고, 배우고, 사고하는 등 다양한 작업을 수행하기 위한 도구로 생각하는 경향이 있다고 덧붙였습니다. 방금 OpenAI의 AI 하드웨어 기기 군에 합류한 전 애플 디자인 수장 조니 아이브(Jony Ive)와 OAI Labs가 새로운 인터페이스에 대해 협력할 것으로 예상되느냐는 질문에 장은 모든 아이디어에 열려 있다고 말했습니다. 그러나 그녀는 자신이 더 익숙한 분야인 연구부터 시작할 가능성이 높다고 덧붙였습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
오와투운세 아데바요
아데바요(Adebayo)는 암호화폐 분야에서 4년간의 경력을 가진 작가입니다. 그는 라고스 대학교에서 도시 및 지역 계획을 전공하고 졸업했으며, 토큰헬(Tokenhell)과 크립토티커(CryptoTicker)에서 암호화폐 및 핀테크 뉴스를 작성했습니다. 현재 그는 크립토폴리탄(Cryptopolitan)의 뉴스 기여자입니다.















