- OpenAI는 AI 초지능의 위험에 대한 인식을 높이고 이러한 우려를 해결하기 위한 전담 팀을 구성하고 있습니다.
- 동사는 초지능을 인간의 가치와 의도에 부합하도록 정렬하고 새로운 거버넌스 기관을 설립하는 데 중점을 두고 있습니다.
- OpenAI는 AGI 정렬이 상당한 위험을 수반하며 인류의 집단적 노력이 필요할 수 있음을 인정합니다.
OpenAI의 CEO인 샘 알트먼은 기계가 인간 지능을 초월하여 통제 불능 상태가 될 수 있는 AI 슈퍼인텔리전스의 잠재적 위험에 대한 경각심을 높이기 위한 글로벌 캠페인에 착수했습니다.
이러한 우려에 대응하여 OpenAI는 최근 슈퍼인텔리전스로 인해 발생할 수 있는 위험을 해결할 방법을 개발하는 전담 팀의 창설을 발표했습니다. 이 슈퍼인텔리전스는 이번 십년 내에 출현할 가능성이 있습니다.
이 회사는 슈퍼인텔리전스를 효과적으로 관리하려면 새로운 거버넌스 기관을 설립하고 슈퍼인텔리전스를 인간의 가치와 의도에 정렬시키는 중요한 과제를 해결해야 한다고 강조합니다.
OpenAI는 작년 말 발표된 블로그 게시물을 통해 AGI(인공 일반 지능) 정렬이 인류에게 상당한 위험을 초래할 수 있으며, 이를 위해 인류 전체의 집단적 노력이 필요할 수 있다고 인정했습니다.
'슈퍼얼라인먼트(Superalignment)'로 명명된 이 새로 구성된 팀은 머신러닝 분야의 최정상급 연구자들과 엔지니어들로 구성되었습니다. OpenAI의 공동 창립자이자 수석 과학자인 일야 수트케버와 얼라인먼트 책임자인 얀 라일케가 이 사업을 주도하고 있습니다.
슈퍼인텔리전스 정렬의 핵심 기술적 과제에 대응하기 위해 OpenAI는 지금까지 확보한 컴퓨팅 자원의 20%를 정렬 문제에 전념하기로 약속했습니다. 이 회사는 4년 이내에 이러한 과제들을 해결할 것으로 예상합니다.
슈퍼얼라인먼트 팀의 주요 목표는 인간 수준의 자동화된 정렬 연구자를 개발하는 것입니다. 이는 인간보다 속도와 정확성에서 우위를 점하며 슈퍼인텔리전트 AI 시스템을 효과적으로 정렬할 수 있는 AI 시스템을 생성하는 것을 의미합니다.
이러한 이정표를 달성하기 위해 팀은 다른 AI 시스템을 평가하는 데 AI 시스템을 활용하는 확장 가능한 훈련 방법에 중점을 둘 것입니다. 그들은 잠재적으로 문제가 될 수 있는 행동을 자동으로 검색하여 결과 모델을 검증할 것입니다. 또한 정렬 파이프라인은 의도적으로 정렬되지 않은 모델을 훈련시켜 탐지 가능성을 평가하는 엄격한 스트레스 테스트를 거칠 것입니다.
슈퍼인텔리전스 위험에 대응하기 위한 OpenAI의 노력은 책임감 있고 정렬된 AI 개발을 추구하는 데 있어 중요한 진전을 의미합니다. 최정상급 연구자들로 구성된 팀을 구성하고 상당한 컴퓨팅 자원을 전념함으로써, 이 회사는 슈퍼인텔리전스 출현과 관련된 잠재적 위험을 능동적으로 완화하려는 의지를 보여줍니다. 그들은 이 야심 찬 여정에 착수하며, AI 시대에 인류의 미래를 보호하기 위한 협력과 단합의 모범을 세우고 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Mutuma Maxwell
Maxwell 은 특히 블록체인과 암호화폐에 관한 글을 쓰는 것을 즐깁니다. 그는 2020 년에 블로그 활동을 시작했으며, 이후 암호화폐 세계에 집중했습니다. 그의 평생의 사명은 전 세계 사람들에게 탈중앙화 개념을 소개하는 것입니다.
