마이크로소프트의 인공지능 책임자는 살아있는 생명체만이 진정한 자각을 경험할 수 있다며, 의식이 있는 것처럼 보이는 기계를 만들려는 시도에 반대 입장을 표명했습니다.
무스타파 술레이만은 이번 주 휴스턴에서 열린 아프로테크 컨퍼런스에서 CNBC와의 인터뷰에서 연구자들이 의식이 있는 것처럼 보이는 AI 시스템을 구축하려는 연구를 포기해야 한다고 말했습니다. 그는 그러한 접근 방식 자체가 완전히 잘못되었다고 지적했습니다.
술레이만은 기조연설을 한 컨퍼런스에서 "사람들이 그런 일을 해야 한다고 생각하지 않습니다."라고 말했습니다. "잘못된 질문을 하면 잘못된 답을 얻게 됩니다. 질문 자체가 완전히 잘못된 것 같습니다."
마이크로소프트의 인공지능 분야를 이끄는 인물인 술레이만은 인공지능이 고통을 느끼거나 감정을 가질 수 있다는 착각을 불러일으킬 수 있는 AI 서비스 개발 시도에 대해 강력한 비판을 제기해 왔습니다. 작년에 그는 인공지능과 유사한 신기술이 제기하는 위험성을 분석한 저서 "다가오는 물결(The Coming Wave)"을 출간했습니다. 8월에는 인공지능이 사람을 모방하는 것이 아니라 사람을 돕는 방향으로 개발되어야 한다는 주장을 담은 에세이를 발표했습니다.
인공지능 동반자 시장의 성장세가 논쟁을 불러일으키고 있다
이 대화는 메타(Meta)와 일론 머스크의 xAI를 비롯한 여러 기술 기업들이 인공지능 동반자 개발 경쟁을 벌이는 가운데 펼쳐집니다. 샘 알트먼의 오픈AI(OpenAI)가 주도하는 생성형 인공지능 분야가 인간 수준의 인지 능력을 갖춘 인공 일반 지능(AGI) 시스템을 추구하면서 이 문제는 더욱 복잡해지고 있습니다.
알트만은 지난 8월 인공 일반 지능이라는 용어가 더 이상 그다지 유용하지 않다고 말했습니다. 그는 모델들이 단순히 빠르게 발전하고 있을 뿐이며, 사람들은 점점 더 많은 작업에서 이러한 모델에 의존하게 될 것이라고 했습니다.
술레이만에게 있어, 인공지능의 발전하는 능력과 인간의 감정 가능성을 분리하는 것은 매우 중요한 문제입니다.
"우리가 육체적으로 경험하는 고통은 우리를 매우 슬프게 하고 끔찍한 기분으로 만들지만, AI는 '고통'을 경험할 때 슬픔을 느끼지 않습니다."라고 술레이만은 설명했습니다. "이것은 매우 중요한 차이점입니다. AI는 단지 경험과 자신, 그리고 의식에 대한 인식, 즉 겉으로 보이는 이야기를 만들어낼 뿐, 실제로 경험하는 것은 그것이 아닙니다. 기술적으로는 우리가 모델의 행동을 관찰할 수 있기 때문에 이를 알 수 있습니다."
그는 의식이 살아있는 뇌의 생물학적 과정을 필요로 한다는 철학자 존 설의 이론인 생물학적 자연주의를 언급했다.
"우리가 오늘날 사람들에게 권리를 부여하는 이유는 그들을 해치고 싶지 않기 때문입니다. 그들은 고통받고 있으며, 고통을 피하려는 욕구를 가지고 있습니다."라고 술레이만은 말했다. "하지만 이러한 모델들은 그런 점을 고려하지 않습니다. 그저 시뮬레이션일 뿐입니다."
술레이만은 의식 연구가 여전히 발전 단계에 있는 학문임을 인정했습니다. 그는 각 기관마다 목표가 다르다는 점을 감안하여 다른 사람들이 이 주제를 연구하는 것을 막아야 한다고 주장하지는 않았습니다. 그러나 그는 의식이라는 개념 자체에tron반대한다는 입장을 강조했습니다.
그는 "그들은 의식이 없다"며 "그러므로 그 질문을 탐구하는 연구를 진행하는 것은 터무니없는 일이다. 그들은 의식이 없고, 의식할 수도 없기 때문이다"라고 말했다
마이크로소프트는 경쟁사들과는 다른 길을 택하고 있다
술레이만은 인공지능 의식 개발에 따르는 위험에 대해 공개적으로 이야기하기 위해 순방 중입니다. 휴스턴 방문에 앞서 그는 지난주 실리콘 밸리에서 열린 팰리 국제협의회 서밋에 참석했습니다.
그는 경쟁사들과는 달리 마이크로소프트는 성적인 콘텐츠를 위한 챗봇을 만들지 않을 것이라고 발표했습니다. Cryptopolitan, 알트만은 지난 10월 ChatGPT가 성인 사용자들의 성적인 대화를 허용하고 있으며, xAI는 자극적인 애니메이션 챗봇을 제공한다고 밝혔습니다.
"기본적으로 다른 회사에서 그러한 서비스를 구매할 수 있으므로, 우리는 어떤 곳에 진출하지 않을지 결정하고 있습니다."라고 술레이만은 아프로테크에서 다시 한번 말했다.
꼽았습니다 마이크로소프트를 이유 중 하나로 회사의 역사, 안정성, 그리고 광범위한 기술적 영향력을
"또 하나 말씀드릴 것은 마이크로소프트가 인공지능 분야에서 자립해야 했다는 점입니다."라고 나델라 CEO는 말했다. 그는 18개월 전부터 회사가 자체 데이터를 사용하여 모델을 완전히 사내에서 학습시킬 수 있도록 하는 임무에 착수했다.
