구글 전 CEO 슈미트는 특정 수준에 도달한 AI 시스템의 '연결 해제'를 촉구했습니다

구글의 전 CEO인 에릭 슈미트는 인공지능 개발자들에게 개발 한계를 스스로 조절해야 한다고 경고했습니다. 그는 또한 미국이 중국과의 인공지능 경쟁에서 승리하는 것이 중요하다고 강조했습니다.

ABC 뉴스 ' This Week with George Stephanopoulos' 프로그램 슈미트는 일요일dent심지어 스스로를 개선할 가능성에 대해 경고했습니다. 

"조만간 컴퓨터가 스스로 작동하며 무엇을 할지 결정하는 시대가 올 것"이라고 말했다.

슈미트: 인공지능을 방치해서는 안 된다

슈미트는 통제되지 않은 고도 인공지능의 발전이 가져올 위험성을 재차 강조하며, 자기 개선 능력을 갖춘 시스템이 상당한 위험을 초래할 수 있다고 지적했습니다. 

"시스템이 스스로 개선할 수 있다면, 우리는 그 시스템의 전원을 끄는 것을 진지하게 고려해야 합니다."라고 전 구글 CEO는 말했다.

스테파노풀로스가 슈미트에게 그러한 AI 시스템이 시스템을 폐쇄하려는 시도에 맞설 수 있는지 묻자, 슈미트는 "글쎄요, 이론적으로는 누군가가 (비유적으로) 플러그를 잡고 있어야 할 겁니다."라고 답했다

에 대한 우려가 커지고 있는 가운데 인공지능이 초래할 실존적 위험 , 일부 전문가들은 그러한 두려움이 과장되었다고 주장합니다. 임페리얼 칼리지 런던의 연구 부총장인 닉 제닝스 교수는 종말론적 예측을 일축하는 전문가 중 한 명입니다. 

제닝스는 주장합니다 인공지능이 특정 작업에서는 뛰어날 수 있지만, 다양한 분야에 걸쳐 인간과 같은 지능을 가진 시스템을 만드는 것은 현재 과학자들의 능력으로는 아직 요원하다고

"특정 한 가지 작업을 매우 잘 수행하는 인공지능을 개발하는 것은 가능하다"면서도 "하지만 여러 분야에 걸쳐 인간의 지능을 그대로 모방하는 범용 인공지능을 구축하는 것은 가까운 미래에 기대할 수 있는 일이 아니다"라고 설명했다.

인공지능 위협에 대한 의견 차이

한편, 주요 AI 연구자들 사이에서는 목표 설정이 defi하고 안전 장치가 미흡할 경우 발생할 수 있는 위험에 대한 우려가 지속되고 있습니다. UC 버클리 교수 스튜어트 러셀과 박사후 연구원 마이클 코헨은 강력한 AI 시스템이 제대로 통제되지 않을 경우 궁극적으로 인류의 존립을 위협할 수 있다고 주장합니다.

에서 논문 인공지능 개발에 대한 더욱 엄격한 감독을 촉구했습니다. 그들은 기술 기업들이 인공지능 시스템을 시장에 출시하기 전에 안전성을 입증해야 한다고 강조했습니다. 명확한 목표와 강력한 안전장치가 없다면, 고도화된 인공지능 시스템은 인간의 이익에 반하는 방향으로 작용할 수 있다고 그들은 주장했습니다.

"이러한 인공지능의 목표가 인간의 목표와 충돌할 경우 재앙을 초래할 수 있다할 책임이 있다고 믿습니다dent.

인공지능 안전에 대한 논쟁이 점점 커지고 있다

인공지능의 급속한 발전은 이미 허위 정보 확산, 사회적 양극화, 알고리즘 편향 등 여러 문제점을 야기하고 있습니다. 안전 및 규제에 대한 우려는 아직 기술 발전 속도를 따라가지 못하고 있습니다.

슈미트의 발언은 이러한 과제들을 해결해야 한다는 업계 리더들의 절박감이 커지고 있음을 반영합니다. 일론 머스크 인공지능의 위험을 완화하기 위한 선제적 규제의 필요성을 오랫동안 주장해 왔습니다. 

머스크는 한때 인공지능을 "우리 문명이 직면한 가장 큰 위험"이라고 묘사하며, 경고했습니다 . 마찬가지로 물리학자 스티븐 호킹은 기계가 인간의 지능을 뛰어넘는 특이점에 도달하면 인류가 고도화된 인공지능 시스템을 제어할 수 없게 될 것을 우려했습니다. 

호킹은 인터뷰에서 규제가 없다면 인공지능은 "인류에게 일어날 수 있는 최고의 일이 될 수도 있고 최악의 일이 될 수도 있다"고 주장했다

미국과 중국 간 인공지능 경쟁 심화

보다 앞서 있었지만 인공지능 개발에서 중국, 지난 6개월 동안 그 격차가 크게 좁혀졌다고 지적했습니다. 그는 "중국이 놀라울 정도로 빠르게 따라잡았다"며 현재 상황을 두 초강대국 간의 치열한 경쟁으로 묘사했습니다.

"아마도 향후 1~2년 안에 시스템이 자체적으로 연구를 시작할 수 있는 시점이 올 것입니다. 이들은 인간 과학자와는 달리 AI 과학자라고 불릴 것입니다. 즉, 인간 과학자 1,000명에서 AI 과학자 100만 명으로 늘어나는 것입니다. 저는 이것이 발전 속도를 더욱 가파르게 만들고, 이 속도로 나아간다면 경쟁자들이 따라잡기가 매우 어려울 것이라고 생각합니다."라고 그는 말했다.

분야에서 미국의 경쟁력 강화를 우선시할 것이라고 믿으며 트럼프 행정부가 , 이는 긍정적인 조치라고 평가했다. 그는 "인간적인 가치가 보존되는 한, 우리는 괜찮을 것"이라고 말했다.