Sam Altman, 감시 속에서 OpenAI 안전 위원회 사임

OpenAI의 CEO Sam Altman은 중요한 안전 결정을 감독하기 위해 5월에 설립된 내부 안전 및 보안 위원회에서 사임했습니다. 알트만의 사임은 미국 의원들과 전 오픈AI 직원들이 회사의 안전성과 법적 준수성에 대해 우려를 제기한 시점에 이루어졌다.

안전 및 보안 위원회는 이제 안전 및 보안 문제를 모니터링하는 별도의 이사회급 위원회로 활동하게 된다. 이 변화에 따라 카네기 멜론 대학교의 교수인 지코 콜터가 의장으로 임명되었으며, 쿼라 CEO 아담 던젤로, 은퇴한 미 육군 장군 폴 나카소네, 전 소니 임원 니콜 셀리그먼이 함께한다. 이들은 모두 현재 오픈AI 이사회 구성원이다. 이 그룹은 안전 문제가 해결될 때까지 AI 모델의 출시를 보류할 권한을 여전히 가지고 있다. 

핵심 인력의 사임으로 오픈AI의 우선순위에 의문이 제기된다

Altman의 퇴임 후 블로그 게시물에서 OpenAI는 안전성에 대한 초점을 재확인했으며, 위원회가 최신 모델 o1의 안전성을 이전에 승인했다고 언급했습니다. 그룹은 또한 향후 AI 모델 출시와 관련하여 구성원들을 업데이트하고 정보에 접근할 수 있도록 회사의 안전 및 보안 담당자로부터 추가 정보를 정기적으로 받을 예정입니다. 또한 모델 출시를 위한 기술 검토 및 명확히 정의된 목표 채택을 통해 안전 조치를 강화할 의향도 밝혔습니다.

이는 특히 5명의 미국 상원의원 이 여름철 회사의 안전 조치에 대해 우려를 표명한 이후의 일입니다. 비판가들은 또한 AI의 장기적 영향에 대응하는 임무가 주어진 직원 중 절반 이상이 회사를 떠났다고 지적했습니다. 일부는 Altman이 기술의 규제보다 AI의 비즈니스 측면에 더 관심이 있다고 말했습니다.

오픈AI의 지출이 증가하고 있다. 2024년 상반기에 회사는 연방 로비 활동에 80만 달러를 지출했으며, 이는 2023년 전체 지출액인 26만 달러와 비교해 상당한 증가다. 올해 초 알트만은 미국 국토안보부 인공지능 안전 및 보안 이사회 회원이 되었다. 이 위원회는 국가의 핵심 시스템에서 AI 사용에 대한 자문을 제공하는 역할을 한다. 

AI 거인의 자기 규제에 대한 질문은 여전히 남아 있습니다. 이코노미스트에 기고한 의견 글에서 OpenAI의 전 이사진인 Helen Toner와 Tasha McCauley는 회사가 자체를 단속할 수 있는 능력에 의문을 제기했습니다. 그들은 이익 동기가 OpenAI의 자기 통제를 훼손할 수 있으며, 이는 장기적인 안전 목표와 충돌할 수 있다고 주장했습니다.

오픈AI, 막대한 자금 조달 모색 및 영리 모델 전환 계획

오픈AI는 현재 평가액을 1,500억 달러까지 끌어올릴 수 있는 대규모 신규 자금 조달 라운드를 확보하기 위해 논의 중이라고 한다. 최근 크립토폴리탄, 오픈AI는 현재 평가액으로 투자자로부터 65억 달러를 조달할 계획이다. 오픈AI는 2025년까지 현재의 운영 모델을 전통적인 영리 모델로 전환할 계획이라고 한다.

OpenAI의 CEO Sam Altman은 최근 회의에서 직원 변경 사항을 밝혔지만, 무엇을 기대해야 할지에 대해서는 크게 밝히지 않았습니다. Altman 현재 구조가 ‘너무 커졌다’고 말하며 비영리 모델에서 벗어나 준비되어 있다고 말했습니다.