오픈AI에서 안전이 뒷전으로 밀려났나요?

공동 창립자인 일리야 수츠케버가 이번 주 초 회사를 떠난 후, 저명한 연구원인 얀 라이케는 금요일 오전 "회사에서 안전 문화와 절차가 화려한 제품에 밀려 뒷전으로 밀려났다"고 발표했습니다.

얀 라이케는 소셜 미디어 플랫폼 X에 올린 일련의 게시물에서 샌프란시스코에 본사를 둔 스타트업에 합류한 이유에 대해 그곳이 인공지능 연구를 수행하기에 가장 적합한 곳이라고 믿었기 때문이라고 밝혔습니다. 

라이케는 이번 주에 함께 사임한 공동 창업자와 함께 오픈AI의 "슈퍼얼라인먼트" 팀을 이끌었습니다.

OpenAI의 슈퍼얼라인먼트 팀은 더 이상 온전한 상태가 아닙니다

라이케의 슈퍼얼라인먼트 팀은 지난해 7월 오픈AI에 설립되었으며, 인간처럼 추론할 수 있는 AI를 개발하는 과정에서 안전 조치를 배포하는 데 있어 주요 기술적 과제를 해결하는 역할을 맡고 있습니다. 

라이케의 발언은 WIRED Chich의 보도 이후 나온 것으로, 해당 보도에서는 OpenAI가 AI와 관련된 장기적인 위험을 다루는 임무를 맡았던 슈퍼스라인먼트 팀을 완전히 해체했다고 주장했습니다.

관련 기사: Openai의 수석 과학자 일리야 수츠케버의 작별 인사

수츠케버와 라이케만이 회사를 떠난 직원은 아니었습니다. 지난 11월 이사회가 샘 알트만 CEO를 해임하려 했으나 그가 재기책을 펼치면서 무산된 이후, 오픈AI에서 안전 의식이 가장 높았던 직원 최소 5명이 추가로 회사를 떠나거나 해고되었습니다.

OpenAI는 안전을 최우선으로 하는 인공 일반 지능(AGI) 기업이 되어야 합니다

라이케는 여러 플랫폼에 걸쳐 이 기술의 가장 논란이 되는 특징, 즉 인간만큼 지능이 높거나 적어도 많은 작업을 인간만큼 잘 수행할 수 있는 로봇의 미래에 대해 지적하며, OpenAI가 안전을 최우선으로 하는 인공 일반 지능(AGI) 회사로 변모해야 한다고 썼습니다.

라이케의 게시글에 대해 오픈 AI의 CEO인 샘 알트만은 라이케가 회사에 기여한 공로에 감사를 표하고 그의 퇴사에 대한 아쉬움을 나타냈습니다.

알트만은 X 포럼 게시물에서 말이 맞다고 인정하며, 앞으로 며칠 안에 이 주제에 대해 장문의 글을 쓰겠다고 밝혔습니다. 그는 또한 다음과 같이 말했습니다.

"우리가 해야 할 일은 아직 많이 남아 있으며, 우리는 그 일을 해내기 위해 최선을 다할 것입니다." 

라이케는 오픈AI의 슈퍼얼라인먼트 팀을 떠났고, 공동 창립자인 존 슐만이 그 자리를 이어받았습니다.

하지만 팀에는 어딘가 공허함이 느껴집니다. 게다가 슐만은 이미 오픈AI의 기존 제품 보안을 책임지는 정규직 업무로 과중한 부담을 안고 있습니다. 오픈AI가 미래 지향적인 보안 관련 업무를 얼마나 더 해낼 수 있을까요? 이에 대한 만족스러운 답은 없어 보입니다.

얀 라이케는 경영진과 이념적 차이를 보인다

조직 이름인 오픈AI에서 알 수 있듯이, 원래는 모델을 대중과 자유롭게 공유할 목적으로 만들어졌지만, 이제는 이처럼 강력한 모델을 누구에게나 공개하는 것이 해로울 수 있다고 판단하여 모델을 독점 지식으로 전환했습니다.

라이케는 자신의 게시글에서 오픈아이얼 경영진이 오랫동안 회사에 강요해 온 우선순위에 동의하지 않았으며, 결국 그 의견이 임계점에 도달했다고 밝혔습니다.

저는 오픈아이(OpenAI)가 이러한 연구를 하기에 세계 최고의 장소라고 생각해서 합류했습니다.

하지만 오픈아이의 핵심 우선순위에 대해 경영진과 오랫동안 의견 차이를 보였고, 결국에는 한계점에 도달하게 되었습니다.

— 얀 라이케 (@janleike) 2024년 5월 17일

라이케는 목요일을 마지막으로 회사를 떠났고, 이후 사임 의사를 밝혔습니다. 그는 사임 과정에서 따뜻한 작별 인사나 오픈AI 경영진에 대한 신뢰를 암시하는 어떤 말도 하지 않았습니다. 그는 X 플랫폼에 "사임했습니다"라고 게시했습니다

라이케의 추종자 한 명은 댓글에서 라이케가 더 이상 자신들의 그룹에 속해 있지 않다는 사실에 기쁘다고 말했습니다. 그는 "깨어있는 척하는 이념들은 인류애와 맞지 않는다. 이러한 이념들이 인류애와 멀어질수록 인공지능에 더 많이 투자될 것이다."라고 덧붙였습니다. 

관련 기사: OpennAI, ChatGPT 개선을 위해 Reddit 콘텐츠 보안 강화

그 추종자는 모든 정렬 담당자들에게 정렬에 대한 defi를 요구할 것이라고 말했습니다. 그는 라이케가 오픈아이즈의 다른 직원들에게 회사에 필요한 문화적 변화를 이끌어낼 수 있는지 물었던 권고안을 언급했습니다. 

세계 최고의 AI 기업이 전문가들이 강조하는 안전 조치와 관련하여 방향을 바꾸고 있는 것으로 보이며, 최고 안전 전문가들의 퇴사는 이를 뒷받침하는 것으로 보인다.

아미르 셰이크의 Cryptopolitan 보도