OpenAI, 초지능 위험에 정면으로 대응하기 위해 '슈퍼얼라인먼트' 팀 출범

오픈AI의 CEO인 샘 알트만은 기계가 인간의 지능을 뛰어넘어 통제 불능 상태가 될 수 있는 인공지능 초지능의 잠재적 위험성에 대한 인식을 높이기 위한 글로벌 캠페인을 시작했습니다.

이러한 우려에 대응하여 OpenAI는 최근 향후 10년 안에 등장할 가능성이 있는 초지능과 관련된 위험을 해결하기 위한 방법을 개발하는 전담팀을 구성했다고 발표했습니다.

이 회사는 초지능을 효과적으로 관리하기 위해서는 새로운 거버넌스 제도를 구축하고 초지능을 인간의 가치 및 의도와 조화시키는 중요한 과제를 해결해야 한다고 강조합니다

OpenAI는 지난해 발표한 블로그 게시물에서 밝혔듯이, 인공 일반 지능(AGI)의 발전은 인류에게 상당한 위험을 초래할 수 있으며, 전 인류의 공동 노력이 필요할 수 있음을 인정합니다.

"슈퍼얼라인먼트(Superalignment)"라는 이름이 붙은 이 새로운 팀은 머신러닝 분야의 최고 연구원과 엔지니어들로 구성되어 있습니다. 오픈AI의 공동 창립자이자 최고 과학자인 일리야 수츠케버와 얼라인먼트 책임자인 얀 라이케가 이 프로젝트를 이끌고 있습니다.

초지능 정렬의 핵심 기술적 과제를 해결하기 위해 OpenAI는 지금까지 확보한 컴퓨팅 자원의 20%를 정렬 문제에 투입하기로 했습니다. 회사는 4년 안에 이러한 과제를 해결할 수 있을 것으로 예상합니다.

슈퍼얼라인먼트 팀의 주요 목표는 인간 수준의 자동화된 정렬 연구 도구를 개발하는 것입니다. 이는 인간보다 속도와 정확도 면에서 뛰어난 초지능 AI 시스템 정렬을 효과적으로 수행할 수 있는 AI 시스템을 만드는 것을 의미합니다.

이 목표를 달성하기 위해 팀은 AI 시스템을 활용하여 다른 AI 시스템을 평가하는 확장 가능한 학습 방법을 개발하는 데 집중할 것입니다. 또한matic 으로 문제가 될 수 있는 동작을 자동화하여 모델의 유효성을 검증할 것입니다. 정렬 파이프라인은 의도적으로 정렬이 어긋난 모델을 학습시켜 탐지 가능성을 측정하는 엄격한 스트레스 테스트도 거칠 것입니다.

OpenAI가 초지능 위험에 대응하기 위해 기울이는 노력은 책임감 있고 조화로운 AI 개발을 추구하는 데 있어 중요한 진전을 의미합니다. 최고의 연구진을 구성하고 막대한 컴퓨팅 자원을 투입함으로써, OpenAI는 초지능의 출현과 관련된 잠재적 위험을 선제적으로 완화하겠다는 의지를 보여주고 있습니다. 이러한 야심찬 여정을 시작하면서, OpenAI는 AI 시대에 인류의 미래를 지키기 위한 협력과 단결의dent 제시하고 있습니다.