마이크로소프트 AI 책임자는 해당 기술이 기업의 존립에 위협이 될 경우 개발을 중단하겠다고 약속했습니다.

마이크로소프트의 소비자 인공지능 책임자인 무스타파 술레이만은 고도화된 인공지능이 인간의 안전을 위협하는 상황이 발생할 경우 개발을 전면 중단할 것이라고 밝혔습니다.

블룸버그의 미샬 후세인 쇼에 출연한 무스타파는 마이크로소프트의 목표는 인간의 이익에 부합하는 초지능을 구축하는 것이지, 어떤 대가를 치르더라도 순수한 힘을 쫓는 것이 아니라고 강조했습니다.

무스타파는 인터뷰에서 "우리는 통제 불능 상태가 될 가능성이 있는 시스템을 계속 개발하지 않을 것"이라고 말했습니다. 그는 이러한 입장이 논란의 여지가 없어야 하며, 인공지능 업계 전반에서 여전히 드물지만 당연한 입장이라고 덧붙였습니다.

마이크로소프트, 첨단 AI 시스템 개발 자유를 되찾다

무스타파는 작년 초 마이크로소프트에 합류했는데, 마이크로소프트는 그가 설립한 스타트업인 인플렉션 AI의 지적 재산권과 팀 대부분을 인수했으며, 그 후 오픈AI를 떠나 소비자 대상 AI 도구 개발에 집중했습니다.

인수 후 무스타파는 시장에 이미 나와 있는 가장tron모델들과 직접 경쟁할 수 있는 제품을 개발하는 임무를 맡았습니다.

그 기간 동안 그의 연구에는 많은 제약이 따랐습니다. 마이크로소프트와 오픈AI의trac계약 조건 때문에 마이크로소프트는 인간 수준의 성능을 발휘하는 인공 일반 지능(AGI)은 defi, 인간의 능력을 뛰어넘는 초지능을 개발할 수 없었습니다.

무스타파는 마이크로소프트가 오픈AI의 최신 모델에 접근하는 대가로 해당 권리를 포기했다고 밝혔습니다. 또한, 이 계약에는 마이크로소프트가 수년에 걸쳐 오픈AI를 위해 데이터 센터를 구축하고 장비를 제공하는 것도 포함되었습니다.

10월에 그 구조가 바뀌었습니다. 새로운 계약으로 관계가 재편되었고 개발 권한은 마이크로소프트로 돌아갔습니다.

무스타파는 오픈AI가 현재 소프트뱅크, 오라클 등 다른 파트너들과 마이크로소프트가 제공하려던 것보다 더 많은 데이터 센터를 구축하기 위한 인프라 계약을 체결했다고 밝혔습니다. 그는 "오픈AI는 소프트뱅크를 비롯한 오라클 등 여러 회사와 마이크로소프트가 구축하려던 것보다 더 많은 데이터 센터를 건설하는 계약을 맺었습니다."라며, "그 대가로 우리는 자체적인 AI를 개발할 권리를 얻게 되었습니다."라고 말했습니다.

그는 마이크로소프트가 지난 18개월 동안 범용 AI 개발업체로 남아 있었지만, 이제는 여러 작업에서 인간의 성능을 뛰어넘을 수 있는 개발 분야로 진출하고 있다고 말했다.

무스타파는 "지난 18개월 동안 우리는 여전히 범용 AI 개발 업체였지만, 이제 모든 작업에서 인간의 성능을 뛰어넘을 잠재력을 가진 기술과 방법론을 개발할 수 있게 되었습니다."라고 말하며, "따라서 이는 우리에게 중요한 변화입니다."

술레이만은 도구 개발이 아직 완료되지 않았으므로 신중한 접근 방식을 취할 것이라고 밝혔다.

지난달 무스타파는 블로그 게시물을 통해 초지능 개발 노력을 공식 발표하며, 그러한 시스템은 사람들에게 도움이 되도록 설계되어야 한다는 마이크로소프트의 입장을 밝혔습니다. 오픈AI와 앤스로픽 PBC를 비롯한 다른 주요 기업들도 안전과 인간에게 이익이 된다는 유사한 주장을 자주 펼칩니다.

그는 "모든 사람은 자신이 무엇을 지지하고 어떻게 행동할지 스스로 결정해야 하며, 나는 그들이 지금 어떻게 행동하는지 판단하고 싶지 않다"며 "대규모 집단 피해의 증거는 보이지 않는다"고 말했다.

무스타파는 초지능에 대한 장기적인 관심에도 불구하고 현재의 논쟁은 여전히 ​​학문적인 차원에 머물러 있다고 말했다.

소비자들은 티켓 예매나 쇼핑 계획 수립 같은 작업을 처리해 줄 수 있는 도우미를 기대합니다. 경영진은 생산성 향상을 기대하죠. 하지만 아직 어느 쪽도 그 기대를 완전히 충족시키지는 못하고 있습니다.

무스타파는 마이크로소프트의 코파일럿 소비자 도우미를 그 증거로 제시했다. 그는 코파일럿의 에이전트와 유사한 기능들이 아직 테스트 중이며 항상 의도대로 작동하는 것은 아니라고 말했다.

무스타파는 "아직 실험 단계입니다. 하지만 제대로 작동할 때는 정말 마법 같은 광경을 보게 될 겁니다."라고 말했다.