오픈AI에서 안전이 뒷전으로 밀려났는가?

공동 창립자 일야 수트케버가 이번 주 초 퇴사한 후, 저명한 연구원인 얀 라이케는 금요일 아침에 “회사에서 안전 문화와 프로세스가 빛나는 제품들에 밀려 뒷전으로 밀려났다”고 발표했습니다.

얀 라이케는 소셜 미디어 플랫폼 X에서 연이어 게시한 글에서 자신이 샌프란시스코 기반 스타트업에 합류한 이유는 그곳이 AI 연구를 수행하기에 가장 좋은 곳이라고 믿었기 때문이라고 말했습니다. 

라이케는 공동 창립자 중 한 명과 함께 이번 주에 퇴사한 오픈AI의 ‘슈퍼얼라인먼트(Superalignment)’ 팀을 이끌었습니다.

오픈AI의 슈퍼얼라인먼트 팀은 더 이상 원만하지 않습니다

라이케의 슈퍼얼라인먼트 팀은 인간처럼 추론할 수 있는 AI를 발전시켜 나가는 과정에서 안전 조치 배포의 주요 기술적 과제에 대응하기 위해 작년 7월 오픈AI에 설립되었습니다. 

라이케의 발언은 WIRED의 치크가 오픈AI가 AI와 관련된 장기적 위험에 대응하는 임무를 맡았던 슈퍼얼라인먼트 팀을 완전히 해체했다고 보도한 이후 나왔습니다.

또한 읽기: 오픈AI의 수석 과학자 일야 수트케버 작별 인사

수트케버와 라이케가 회사를 떠난 유일한 직원은 아닙니다. 이사회가 CEO 샘 알트만을 해고하려다 그가 자신의 지위를 되찾기 위해 카드를 잘 활용하는 것을 지켜본 지난 11월 이후, 오픈AI에서 안전에 가장 신경 쓰는 최소 5명의 추가 직원이 퇴사하거나 해고되었습니다.

오픈AI는 안전 최우선 AGI 회사가 되어야 합니다

라이케는 여러 플랫폼에서 가장 논쟁이 되는 기술 특징인, 인간과 일반적으로 지능이 같거나 적어도 많은 작업을 인간만큼 잘 수행할 수 있는 로봇의 미래 모습을 지적하며, 오픈AI가 안전 최우선 AGI 회사로 변모해야 한다고 썼습니다.

라이케의 게시글에 대한 응답으로, 오픈AI의 CEO 샘 알트만은 라이케의 회사에 대한 공로에 감사함을 표하고 그의 퇴사에 대해 슬픔을 표현했습니다.

알트만은 X 게시글 에서 라이케가 맞으며 다가오는 며칠 동안 이 주제에 대해 긴 게시글을 작성할 것이라고 말했습니다. 또한 그는 다음과 같이 말했습니다.

“우리는 해야 할 일이 많습니다. 우리는 그것을 수행할 것입니다.” 

라이케는 오픈AI의 슈퍼얼라인먼트 팀을 떠났으며, 회사의 공동 창립자 중 한 명인 존 Schulman이 그 자리를 맡았습니다.

하지만 팀에는 공허함이 느껴집니다. 또한 Schulman은 이미 오픈AI의 기존 제품 보안을 보장하는 전임 업무로 과부하 상태입니다. 오픈AI가 얼마나 더 중요하고 미래 지향적인 안전 작업을 수행할 수 있을까요? 이에 대한 만족스러운 답은 없어 보입니다.

얀 라이케, 경영진과 이념적 차이

조직의 이름인 오픈AI가 시사하듯, 원래는 모델을 대중과 자유롭게 공유할 의도였지만, 현재 기업은 이러한 강력한 모델을 누구나 사용할 수 있게 하는 것이 해로울 수 있다고 말하며 모델을 독점 지식으로 전환했습니다.

라이케는 게시글에서 자신이 오픈AI 리더십이 회사에 부과해 온 우선순위와 오랫동안 의견 차이가 있었으며, 마침내 tipping point(역전점)에 도달했다고 말했습니다.

저는 오픈AI가 이 연구를 수행할 수 있는 세상에서 가장 좋은 곳이라고 생각해서 합류했습니다.

하지만 저는 오랫동안 오픈에이 리더십과 회사의 핵심 우선순위에 대해 견해 차이를 보이며, 마침내 결정적인 시점에 도달했습니다.

— 얀 라이케 (@janleike) 5월 17, 2024

라이케의 마지막 근무일은 목요일이었으며, 이후 그는 사임했고 따뜻한 작별 인사나 오픈AI 리더십에 대한 신뢰의 힌트 없이 사임을 직설적으로 밝혔습니다. X에서 그는 “저는 사임했습니다”라고 게시했습니다.

라이케의 추종자 중 한 명은 댓글에서 라이케가 더 이상 그들의 팀 구성원이 아니게 되어 기쁘다고 말했습니다.woke 이데올로기는 인류와 맞지 않습니다. 정렬(align)이 덜 될수록 AI에 더 많이 투입됩니다. 

또한 읽기: 오픈AI, ChatGPT 개선을 위해 Reddit 콘텐츠 보안

그 추종자는 또한 모든 정렬자(aligners)로부터 정렬의 정의를 요구할 것이라고 말했습니다. 그는 라이케가 오픈AI의 다른 직원들에게 회사에 필요한 문화적 변화를 가져올 수 있다고 믿는 것을 지적하며, 다른 직원들에게 요청한 권고를 언급했습니다. 

세계 최고의 AI 회사는 전문가들이 자주 강조하는 안전 조치에 대한 방향을 바꾸고 있는 것으로 보이며, 최고 안전 전문가들의 퇴사는 이를 확인시켜 줍니다.

Aamir Sheikh가 Cryptopolitan에서 보도