오픈AI 공동 창립자 일리야 수츠케버는 최근 열린 연례 AI 컨퍼런스에서 인공지능의 미래에 대한 통찰을 제공했습니다. 그는 AI가 예측 불가능해질 수 있는 변혁적인 잠재력에 대해 이야기하면서 동시에 그에 따른 과제와 함의를 강조했습니다.
수츠케버는 금요일 뉴립스 컨퍼런스에서 "초지능 인공지능"이라는 개념을 탐구했는데, 그는 이를 다양한 작업에서 인간의 능력을 뛰어넘는 시스템으로 defi했다.
OpenAI 공동 창립자 일리야 수츠케버는 초지능 AI가 '예측 불가능'할 것이라고 믿는다 . https://t.co/vLHmqwQOJQ
— 테크크런치 (@TechCrunch) 2024년 12월 14일
그는 그러한 시스템이 오늘날의 인공지능과는 질적으로 다르며, 어떤 면에서는 알아볼 수 없을 정도일 것이라고 예측했습니다. 수츠케버에 따르면, 이러한 고도화된 시스템은 자아 인식, 추론 능력, 그리고 제한된 데이터로부터 복잡한 시나리오를 이해하는 능력을 갖추게 될 것입니다.
"초지능 시스템은 실제로 진정한 의미에서 능동적인 주체성을 갖게 될 것"이라며, 현재의 인공지능은 "아주 미미한 수준의 능동적 주체성"을 지닌다고 설명하면서 이를 현재의 인공지능과 대조했다.
수츠케버: 현재의 AI 모델에는 한계가 있습니다
이번 컨퍼런스에서 "시간의 시험" 상을 수상한 수츠케버는 오픈AI의 ChatGPT에서 사용되는 것과 같은 사전 학습 모델의 한계를 인정했습니다. 현재 시스템들이 놀라운 성능을 보여주고 있지만, 인터넷 데이터의 유한성이 병목 현상을 일으키고 있다고 경고했습니다.
전체 @ilyasut의 토크! 프리트레이닝은 끝났다 등 더 많은 이야기 pic.twitter.com/PigZVvcEGB
— 디에고 | AI 🚀 – e/acc(@diegocabezas01) 2024년 12월 14일
수츠케버는 인공지능 시스템이 자체적으로 데이터를 생성하거나 정확도를 높이기 위해 응답을 개선하는 등의 대안적 접근 방식을 제안했습니다. 그는 이러한 혁신이 기존의 한계를 극복하는 데 도움이 될 수 있다고 주장했습니다.
오픈AI 공동 창립자는 초지능 AI의 윤리적 함의, 특히 그러한 시스템이 권리를 요구할 가능성에 대해서도 언급했습니다. 그는 "AI가 우리와 공존하고 권리를 갖는 것만을 원한다면, 그것은 나쁜 결과가 아닙니다."라고 말했습니다.
그러나 그는 능동적이고 자기 인식적인 AI의 본질적인 예측 불가능성을 강조하며, 이는 개발자와 규제 기관 모두에게 기회와 도전 과제를 동시에 제시한다고 말했습니다.
오픈AI CEO 알트만은 혁신과 인공 일반 지능(AGI)의 도래를 예측했습니다
이달 초, 오픈AI의 CEO 샘 알트만은 수츠케버와 마찬가지로 초지능 AI 성능의 한계에 대해 비슷한 견해를 밝혔습니다. 뉴욕에서 열린 뉴욕 타임스 딜북 서밋에서 알트만은 인공 일반 지능(AGI)에 대한 자신의 비전을 제시했습니다. 그는 인간과 유사한 추론 능력을 바탕으로 복잡한 작업을 수행할 수 있는 AGI AI 시스템이 이르면 2025년에 현실화될 수 있다고 예측했습니다.
"제 생각에는 2025년에는 우리가 살펴보게 될 시스템들을 사람들이 보고 '와, 내 예상을 완전히 바꿔놓았네'라고 말할 수 있을 것 같습니다."라고 알트먼은 말했다.
알트만은 비유하며 인공지능의 잠재적 영향력을 전 세계 산업과 경제에 혁명을 일으킨 트랜지스터 발명에
“AI 모델이 널리 보급되어 다양한 산업 분야에서 여러 용도로 활용될 것입니다. AI 자체, 즉 추론 엔진은 상품화될 것입니다.”라고 알트만은 예측하며, AI가 일상생활에 통합되는 것은 과거의 기술적 혁신만큼이나 획기적인 변화를 가져올 것이라고 전망했습니다.
알트만은 발표에서 ChatGPT의 광범위한 도입을 강조하며, 이 AI 도구의 주간 사용자 수가 3억 명을 넘어섰다고 밝혔습니다. 그는 안전성에 대한 논쟁이 계속되고 있음을 인정하면서도, 반복적인 개발 및 배포 방식이 중요했다고 주장했습니다.
"" defiChatGPT가 충분히 안전하지 않다고 생각하는 사람들이 분명히고 말하면서도, 위험 부담이 적은 초기 도입이 점진적인 개선에 매우 중요하다고 OpenAI는 믿는다고 덧붙였다.
알트먼이 안전을 강조한 것은 책임감 있는 AI 개발에 대한 업계의 우려를 반영한 것이었다. 그는 ChatGPT가 "현재 대부분의 사람들이 허용 가능한 수준의 안전성과 안정성을 갖춘 것으로 여기고 있다"고 인정하면서도, 지속적인 개선과 감독이 여전히 중요한 과제라고 강조했다.
리더십과 OpenAI의 발전에 대한 고찰
알트만의 리더십 여정은 오픈AI의 발전 방향을 결정하는 데 중추적인 역할을 했습니다. 2015년 비영리 연구소인 오픈AI를 공동 설립한 그는 인류 복지를 위해 인공지능 기술을 발전시키는 것을 목표로 삼았습니다. 2019년 오픈AI에 정식으로 합류하기 전에는 2014년부터 2019년까지 유수의 스타트업 액셀러레이터인 Y Combinator의dent 역임했습니다.
OpenAI는 대규모 AI 프로젝트에 필요한 자금을 확보하기 위해 비영리 단체에서 영리 목적의 기업으로 전환했습니다. 알트만의 리더십 아래, OpenAI는 AI 업계에 혁신을 가져온 ChatGPT와 DALL-E를 출시했습니다.
하지만 그 여정이 순탄했던 것만은 아닙니다. 2023년 11월, 알트만은 이사회 구성원들과의 소통 방식에 대한 우려로 오픈AI 이사회에서 잠시 해임 . 공개적으로 진행된 이 분쟁은 이사회가 CEO와 "좋은 관계"를 유지하고 있다고 주장하며 일주일도 채 안 되어 알트만의 복직으로 마무리되었습니다.
