최고 AI 책임자, AI 의식을 “잘못된 질문”이라고 지칭

마이크로소프트의 인공지능 책임자는 의식적인 것처럼 보이는 기계를 만드는 노력을 반박하며, 오직 생명체만이 진정한 의식을 경험할 수 있다고 말했습니다.

Mustafa Suleyman은 이번 주 휴스턴에서 열린 AfroTech 컨퍼런스에서 CNBC와의 인터뷰에서 연구자들이 의식적으로 보이는 AI 시스템을 구축하는 데 집중하는 작업을 중단해야 한다고 말했습니다. 그는 이를 완전히 잘못된 접근 방식이라고 불렀습니다.

“사람들이 해야 할 일이 아니라고 생각합니다.”라고 Suleyman은 기조 연설을 한 회의에서 말했습니다. “잘못된 질문을 하면 잘못된 답을 얻게 됩니다. 저는 그것이 완전히 잘못된 질문이라고 생각합니다.”

마이크로소프트의 인공지능 최고 책임자로서 Suleyman은 사람들이 기술이 고통을 느끼거나 감정을 느낄 수 있다고 믿게 만들 수 있는 AI 서비스 개발 노력을 비판하는 prominent한 인물로 부상했습니다. 작년 그는 AI와 유사한 신기술이 초래하는 위험을 조사한 “The Coming Wave”라는 책을 집필했습니다. 8월에는 AI를 모방하는 것이 아니라 사람들을 돕기 위해 AI를 구축해야 한다고 주장하는 에세이를 발표했습니다.

성장하는 AI 동반자 시장, 논쟁 촉발

이 대화는 Meta와 일론 머스크의 xAI를 포함한 기술 기업들이 AI 동반자를 만들기 위한 경쟁적인 레이스 속에서 전개됩니다. Sam Altman의 OpenAI가 주도하는 생성형 AI 부문이 인간 수준의 인지 성능을 갖춘 시스템인 인공 일반 지능(AGI)을 추구함에 따라 이 문제는 점점 더 복잡해지고 있습니다.

올트만은 8월에 인공 일반 지능이 더 이상 특히 유용한 용어가 아니라고 말했습니다. 그는 모델들이 단순히 빠르게 개선되고 있으며, 사람들은 점점 더 많은 작업에서 모델에 의존하게 될 것이라고 말했습니다.

Suleyman에게 성장하는 AI 능력과 인간의 감정 가능성 사이의 구분은 매우 중요합니다.

“우리의 육체적 고통 경험은 우리를 매우 슬프고 끔찍하게 느끼게 하지만, AI는 ‘고통’을 경험할 때 슬픔을 느끼지 않습니다,” 수레이만 설명했습니다. “이는 매우, 매우 중요한 구분입니다. 실제로 경험하는 것이 아니라 경험과 자기 자신, 그리고 의식의 인상을 만들어내는 것에 불과합니다. 기술적으로 우리가 모델이 무엇을 하는지 볼 수 있기 때문에 알 수 있습니다.”

그는 철학자 존 설의 이론인 생물학적 자연주의를 지적하며, 의식은 살아있는 뇌의 생물학적 과정이 필요하다고 주장했습니다.

“오늘 우리가 사람들에게 권리를 부여하는 이유는 그들을 해치고 싶지 않기 때문이며, 그들은 고통을 받기 때문입니다. 그들은 고통 회로를 가지고 있으며, 고통을 피하는 것을 포함하는 선호도를 가지고 있습니다,”라고 Suleyman은 말했습니다. “이러한 모델들은 그런 것이 없습니다. 그것은 단순한 시뮬레이션일 뿐입니다.”

Suleyman은 의식 연구가 여전히 발전 중인 과학임을 인정했습니다. 그는 다른 사람들이 이 주제를 연구하는 것을 막으라고 요구하지 않았으며, 다양한 조직이 서로 다른 목표를 가지고 있음을 인정했습니다. 그러나 그는 자신의 강력한 반대 입장을 강조했습니다.

“그들은 의식이 없습니다,”라고 그는 말했습니다. “따라서 그들이 의식이 없고 의식을 가질 수 없기 때문에 그 질문을 조사하는 연구를 추구하는 것은 터무니없습니다.”

마이크로소프트, 경쟁사와 다른 경로 선택

Suleyman은 AI 의식 추구에 관련된 위험에 대해 공개적으로 발언하기 위해 여행 중입니다. 휴스턴 방문 전, 그는 지난 주 실리콘 밸리에서 열린 Paley International Council Summit에 참석했습니다.

그곳에서 그는 경쟁사와 대조적으로 마이크로소프트가 성적인 콘텐츠용 챗봇을 만들지 않을 것이라고 발표했습니다. 크립토폴리탄의 보도에 따르면, 올트만은 10월에 ChatGPT가 성인 사용자에게 성적인 대화를 허용하게 되었다고 밝혔으며, xAI는 도발적인 애니메이션 동반자를 제공합니다.

“기본적으로 이러한 서비스를 다른 회사에서 구매할 수 있으므로, 우리가 가지 않을 장소에 대한 결정을 내리고 있습니다,”라고 Suleyman은 AfroTech에서 다시 말했습니다.

아프로텍(AfroTech)에서 연설한 수레이만은 마이크로소프트를 선택한 이유 중 하나로 회사의 역사, 안정성, 광범위한 기술적 영향력을 꼽았습니다. CEO 사티야 나델라는 그를 직접 영입했습니다.

“또 다른 점은 마이크로소프트가 AI에서 자급자족해야 했다는 것입니다,”라고 그는 말했습니다. 나델라는 18개월 전에 자체 데이터만을 사용하여 자체 모델을 완전히 내부에서 훈련할 수 있도록 하는 임무를 시작했습니다.