-
무스타파 술레이만은 Microsoft가 AI 개발이 통제 불능 상태에 이를 위험이 있다면 중단할 것이라고 밝혔다.
-
Microsoft는 OpenAI와의 10월 계약으로 조건이 변경되기 전까지 AGI 구축이 금지되어 있었다.
-
술레이만은 Microsoft가 현재 인간을 능가할 수 있는 초지능 개발에 착수했다고 확인했다.
마이크로소프트 소비자 인공지능 수장인 Mustafa Suleyman은 고급 AI가 인간 안전을 위협할 경우 개발을 즉시 중단하겠다고 밝혔다.
Bloomberg의 The Mishal Husain Show에 출연한 Mustafa는 마이크로소프트의 초점이 비용에 상관없이 원시적인 힘을 추구하는 것이 아니라 인간의 이익과 일치하는 초지능을 구축하는 것이라고 맹세했다.
“우리는 우리를 벗어날 잠재력이 있는 시스템을 계속 개발하지 않을 것입니다.”라고 Mustafa는 인터뷰에서 말했다. 그는 이것이 논란이 될 만한 입장이 아니라고 주장하며, AI 산업 전반에서 아직 드문 입장임에도 불구하고 자명한 위치라고 불렀다.
마이크로소프트, 고급 AI 시스템 구축의 자유를 되찾다
Mustafa는 지난 초 OpenAI를 버리고 소비자 대상 AI 도구로 전환한 후, 그의 스타트업 Inflection AI의 지적 재산과 팀의 대부분을 인수한 마이크로소프트에 합류했다.
인수 후, Mustafa는 이미 시장에 존재하는 가장 강력한 모델들과 직접 경쟁할 수 있는 제품을 구축하는 임무를 맡았다.
그 기간 대부분 동안 그의 작업에는 제한이 따랐다. 마이크로소프트의 OpenAI 파트너십과 관련된 계약 조건은 인간 수준으로 수행할 수 있는 시스템인 일반 인공지능(AGI)과 인간 능력을 초과하는 초지능을 개발하는 것을 금지했다.
Mustafa는 마이크로소프트가 OpenAI의 최신 모델에 대한 접근 권한과引き換え에 이러한 권리를 포기했다고 말했다. 이 arrangement에는 또한 마이크로소프트가 수년에 걸쳐 OpenAI를 위해 데이터 센터를 구축하고 장비하는 것도 포함되었다.
이 구조는 10월에 변경되었다. 새로운 계약은 관계를 재편하고 개발 권한을 마이크로소프트에게 되돌려주었다.
Mustafa는 OpenAI가 이제 SoftBank와 Oracle을 포함한 다른 파트너들과 더 많은 데이터 센터를 구축하기 위한 인프라 계약을 맺었다고 말했다. “그들은 이제 SoftBank와 Oracle 등 많은 다른 파트너들과 더 많은 데이터 센터를 구축하기 위한 계약을 맺었습니다. 이는 마이크로소프트가 그들을 위해 구축하려 했던 것보다 더 많은 것입니다.”라고 그는 말했다. “따라서 그 대가로 우리는 자체 AI를 개발할 권리를 갖게 되었습니다.”
그는 마이크로소프트가 지난 18개월 동안 일반적인 AI 개발사로 남아 있었지만, 이제 작업 전반에서 인간 성능을 초과할 수 있는 작업으로 이동하고 있다고 말했다.
“지난 18개월 동안 우리는 일반적인 AI 개발 회사였지만, 이제 모든 작업에서 인간 성능을 초과할 잠재력을 가진 일부 기술과 방법론에 집중할 수 있게 되었습니다.”라고 Mustafa 말했다. “따라서 이는 우리에게 전환점입니다.”
Suleyman, 도구들이 아직 완성되지 않은 가운데 신중한 접근 방식 제시
지난달, Mustafa는 초지능 노력을 공식 블로그 게시물을 통해 발표했으며, 이러한 시스템은 사람들을 위해 설계되어야 한다는 마이크로소프트의 입장을 제시했다. OpenAI와 Anthropic PBC를 포함한 다른 주요 기업들도 종종 안전과 인간 혜택에 대해 유사한 주장을 한다.
“모두가 자신이 무엇을 위해 서 있는지, 그리고 어떻게 운영될지 결정해야 합니다. 저는 그들이 현재 어떻게 운영되는지 판단하고 싶지 않습니다.”라고 그는 말했다. “저는 대규모의 집단적 피해에 대한 증거를 보지 못했습니다.”
초지능에 대한 장기적인 초점에도 불구하고, Mustafa는 현재의 논쟁이 여전히 학문적이라고 말했다.
소비자들은 티켓 예약이나 쇼핑 계획 조직과 같은 작업을 처리할 수 있는 어시스턴트를 기대한다. 임원들은 생산성 향상을 기대한다. 어느 쪽도 아직 완전히 도달하지 못했다.
Mustafa는 마이크로소프트의 Copilot 소비자 어시스턴트를 증거로 들었다. 그는 에이전트와 같은 기능이 여전히 테스트 중이며 항상 의도대로 작동하지 않는다고 말했다.
“우리는 아직 그것에 대해 실험 중입니다.”라고 Mustafa는 말했다. “하지만 작동할 때, 그것은 당신이 본 것 중 가장 마법적인 것입니다.”
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
Jai Hamid
Jai Hamid 은 지난 6 년간 암호화폐, 주식 시장, 기술, 글로벌 경제 및 시장에 영향을 미치는 지정학적 사건들을 취재해 왔습니다. 그녀는 AMB Crypto, Coin Edition, CryptoTale 등 블록체인 전문 매체에서 시장 분석, 주요 기업, 규제 및 거시경제 동향에 관해 활동했습니다. 런던 저널리즘 스쿨을 졸업했으며 아프리카 최고 TV 네트워크 중 하나에서 세 차례 암호화폐 시장 인사이트를 공유했습니다.
