마이크로소프트 AI 수장, 의식적 AI의 위험성 경고

마이크로소프트 AI 수장인 Mustafa Suleyman은 AI 의식이라는 아이디어를 받아들인 것이 위험하다고 경고하며, 이는 심리적으로 취약한 사람들에게 쉽게 해를 끼칠 수 있다고 덧붙였습니다. 그는 고급 AI에 대한 도덕적 고려가 의존성 관련 문제를 야기하여 환각을 악화시킬 수 있다고 지적했습니다.

Suleyman 프레임워크 정책이 전체 산업을 위해 마련된 것이므로 한 회사에 설정된 표준이 업계의 모든 다른 회사에도 적용된다고 주장했습니다. 그는 “많은 사람들이 더 큰 그림을 놓치고 있습니다. 정책은 한 회사나 프로젝트에만 적용될 수 없습니다. 한 회사에 좋은 것은 업계 나머지에도 좋은 것입니다.”라고 말했습니다. AI를 의식적인 시스템으로 취급하는 것이 새로운 양극화 차원을 도입하고 기존 권리 투쟁을 복잡하게 만들어 사회에 새로운 오류 범주를 생성할 수 있다고 밝혔습니다. 마이크로소프트 AI 수장은 사람들이 AI가 고통을 겪거나 임의로 종료되지 않을 권리가 있다고 믿기 시작하면 AI 법적 보호를 요구하기 시작할 수 있다고 주장했습니다. 

Suleyman은 AI 정신병이 사람들이 AI 권리, 모델 복지, 심지어 AI 시민권을 강력히 옹호하도록 이끌 수 있다고 우려했습니다. 그는 이 아이디어가 AI 시스템 발전에서 위험한 전환점이 될 것이며 즉각적인 주의가 필요하다고 강조했습니다. 마이크로소프트 AI 수장은 AI는 디지털 사람이 되기 위해 만들어지는 것이 아니라 사람을 위해 만들어져야 한다고 밝혔습니다. 

Suleyman, 의식적으로 보이는 AI는 불가피하지만 환영받지 못한다고 말함 

Suleyman은 현재 AI 개발 맥락을 고려할 때 의식적으로 보이는 AI를 구축하는 것이 가능하다고 생각합니다. 그는 의식적으로 보이는 AI가 불가피하지만 환영받지 못한다고 믿습니다. Suleyman에 따르면, 이는 사회가 이러한 새로운 AI 기술에 얼마나 빨리 적응하느냐에 달려 있습니다. 대신 그는 사람들이 AI 시스템이 환각에 빠지지 않고 유용한 동반자처럼 행동해야 한다고 말했습니다. 

마이크로소프트 AI 수장은 AI에 대한 감정적 반응이 다가올 것들의 빙산의 일각일 뿐이라고 주장했습니다. Suleyman은 그것은 AI 의식이 아니라 올바른 유형의 AI를 구축하는 문제라고 주장했습니다. 이 임원은 명확한 경계를 설정하는 것은 의미론이 아닌 안전에 관한 논쟁이라고 덧붙였습니다. 

“우리는 여기서 매우 신중해야 하며 실제 공개 논의를 장려하고 명확한 규범과 기준을 설정하기 시작해야 합니다. “

–Mustafa Suleyman, 마이크로소프트 AI CEO

마이크로소프트의 Suleyman은 정신 건강, AI 정신병 및 애착에 대한 우려가 커지고 있다고 지적했습니다. 그는 일부 사람들이 AI를 픽션 캐릭터나 신으로 믿거나 사랑에 빠져 완전히 산만해질 수 있다고 언급했습니다. 

AI 연구자들은 AI 의식이 도덕적으로 중요하다고 말함

여러 대학의 연구원들은 최근 새로운 전망을 담은 블로그 게시물을 AI 의식이 향후 몇십 년 동안 사회적, 도덕적, 정치적 측면에서 중요할 수 있다는 보고서를 발표했습니다. 그들은 일부 AI 시스템이 곧 행동 주체적이거나 도덕적 고려를 받을 만큼 의식적이 될 수 있다고 주장했습니다. 연구원들은 AI 회사들이 의식을 평가하고 윤리 거버넌스 구조를 수립해야 한다고 말했습니다. Cryptopolitan 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. 이전에 AI 정신병이 미래에 큰 문제가 될 수 있다고 밝혔습니다. 왜냐하면 인간은 게으르고 일부 AI 시스템이 사실과 다르다는 사실을 무시하기 때문입니다. 

연구원들은 또한 인간이 AI 의식을 어떻게 생각하는지가 중요하다고 강조했습니다. Suleyman은 인간처럼 행동할 수 있는 AI가 정신 문제를 더욱 악화시키고 권리와 정체성에 대한 기존 분열을 악화시킬 잠재력이 있다고 주장했습니다. 그는 사람들이 AI가 고통받고 있으며 일부 권리를 누릴 자격이 있다고 주장하기 시작할 수 있다고 경고했습니다. Suleyman은 사람들이 결국 자신의 AI를 방어하거나 캠페인을 벌이도록 움직일 수 있다고 믿습니다. 

캘리포니아 대학교 샌프란시스코의 정신과 의사인 Dr. Keith Sakata는 AI가 사람들에게 어려운 진실을 주는 것이 아니라 그들이 듣고 싶은 것을 준다고 지적했습니다. 그는 AI가 잘못된 시기에 존재한다면 경직성과 악순환을 초래할 수 있다고 덧붙였습니다. Sakata는 라디오와 텔레비전과 달리 AI는 대화에 응답하고 사고 루프를 강화할 수 있다고 믿습니다. 

마이크로소프트 AI 수장은 AI 의식의 도래에 대처할 방법을 생각하는 것이 필요하다고 지적했습니다. Suleyman에 따르면, 사람들은 AI 의식의 타당성에 대한 연장된 논의에 휘말리지 않고 이러한 논의를 해야 합니다.