최근 온라인 게시물에서 BitMEX 공동 창립자 Arthur Hayes는 비트코인의 미래에 대한 낙관적인 전망을 공유했습니다. 순 역환매조건부채권(RRP) 및 재무부 일반 계정(TGA) 잔액 변화를 보여주는 차트와 함께 Hayes는 미국 재무부 장관 Janet Yellen을 'Bad Gurl Yellen'이라고 언급했습니다. 그의 게시물에서 Hayes는 동료 비트코인…

인공지능 세계의 저명한 인물인 일야 수트케버는 최근 인공지능 개발에 대해 신중한 입장을 취하고 있어 주목받고 있습니다. 이는 OpenAI의 CEO인 샘 알트먼의 위험 감수 성향과 대비됩니다.

이러한 견해의 대립은 조직 내 리더십의 큰 변화를 촉발했습니다. 본 글에서는 일야 수트케버의 배경, 경력, 그리고 그가 인공지능에 대해 가진 회의주의를 부추긴 요인들을 깊이 있게 다룹니다.

AI의 위험에 대한 경고자로서의 비전 

이러한 관점의 이분법은 조직의 리더십에서 상당한 재편을 촉발했습니다. 이 기사에서는 Ilya Sutskever의 배경, 경력, 그리고 그의 AI에 대한 회의론을 부추기는 요인들을 깊이 있게 다룹니다.

1986년 소련에서 태어나 5세부터 예루살렘에서 자란 Ilya Sutskever의 학문적 여정은 그를 토론토 대학교로 이끌었습니다.在那里, 그는 2005년 수학 학사 학위를, 2007년 컴퓨터 과학 석사 학위를 취득했습니다.

그는 지식 추구를 계속하여 2013년 컴퓨터 과학 박사 학위를 취득했습니다. Sutskever의 토론토 대학교 초기 작업은 nonsensical한 위키백과 스타일의 항목을 생성하는 실험적 소프트웨어로 특징지어졌습니다.

Sutskever의 경력은 2012년 Alex Krizhevsky와 그의 박사 지도교수인 Geoffrey Hinton(종종 'AI의 아버지'로 불림)과 함께 획기적인 논문을 공동 저술하면서 중요한 전환점을 맞이했습니다. 이 협력은 AlexNet을 탄생시켰는데, 이는 전례 없는 패턴 인식 능력을 보여준 딥러닝 알고리즘입니다. AlexNet이라는 이 프로젝트는 패턴 인식 문제를 해결하는 데 있어 딥러닝의 막대한 잠재력을 보여주었습니다.

구글에서 3년 미만의 기간 동안 일리야 수트케버는 테슬라의 CEO 일론 머스크에게 스카우트되어 비영리 AI 기업인 오픈AI의 공동 창립자이자 수석 과학자로 활동했습니다. 오픈AI의 공동 창립자인 머스크는 AI의 잠재적 위험성에 대해 수트케버와 우려를 공유했습니다. 2018년 테슬라와의 이해상충을 이유로 오픈AI를 떠난 머스크는 수트케버가 조직의 수장을 맡게 되는 결과를 낳았습니다.

AI 안전성에 대한 점증하는 우려

오픈AI 재임 기간 중 수트케버는 AI 안전성에 점점 더 집중하게 되었습니다. 그는 회사 내에서 AI 시스템과 관련된 위험을 해결하기 위해 더 많은 자원을 할당할 것을 주장했습니다. 특히 그는 AI 관련 위험 관리를 위해 컴퓨팅 파워의 20%를 할당하는 오픈AI의 슈퍼얼라인먼트(Superalignment) 팀을 이끌었습니다.

수트케버의 신중한 접근 방식과 샘 알트만의 빠른 AI 개발에 대한 욕구 사이의 충돌은 오픈AI 내부의 리더십에서 정점에 달했습니다. 수트케버와 같은 성향의 이사회 멤버들은 알트만을 해임하고, 더 신중한 입장을 공유한 에메트 시어를 임시로 교체했습니다. 그러나 이 결정은 오래가지 못했는데, 수트케버가 나중에 자신의 역할에 대해 후회를 표명하면서 알트만이 다시 CEO로 복귀했기 때문입니다.

일리야 수트케버의 AI 안전성에 대한 회의론은 통제되지 않은 AI 개발의 잠재적 위험에 대한 그의 신념에 깊이 뿌리를 두고 있습니다. 그는 ChatGPT와 같은 강력한 AI 모델의 빠른 배포와 강력한 안전 조치의 필요성에 대해 우려를 표명해 왔습니다. 

수트케버의 책임감 있는 AI 개발을 위한 헌신은 AGI(인공 일반 지능)의 영향이 일상생활에서 느껴지는 것의 중요성을 강조하며 오픈AI 직원들에게 한 그의 발언에서 명확히 드러납니다.

균형 잡힌 낙관주의와 냉소주의

수트케버의 AI에 대한 관점은 낙관주의와 냉소주의의 독특한 균형으로 특징지어집니다. 그는 AI를 실업, 질병, 빈곤을 포함한 인류의 현재 문제들의 해결책으로 상상합니다. 그러나 그는 가짜 뉴스의 확산, 극단적인 사이버 공격, 완전 자동화된 AI 무기의 개발과 같은 잠재적 단점들을 인정하며 경고합니다. 그의 우려는 AGI의 거버넌스로까지 확장되며, 바람직하지 않은 결과를 방지하기 위한 올바른 프로그래밍의 중요성을 강조합니다.

재앙적인 시나리오를 예측하는 AI 커뮤니티 내의 일부 극단적인 견해와 달리, 수트케버는 더 중도적인 관점을 유지합니다. 그는 인간과 AGI의 관계를 인간이 동물과 상호작용하는 방식에 비유합니다. 인간은 동물에 대한 애정을 가지고 있지만, 고속도로와 같은 인프라를 건설할 때 동물의 허락을 구하지 않습니다. 마찬가지로 수트케버는 인간이 AGI와 관련하여 자신의 필요를 우선시할 수 있다고 제안합니다.