최신 뉴스
당신을 위한 선택

전 구글 CEO 슈미트, 특정 능력 수준에서 AI 시스템 '플러그 뽑기' 촉구

작성자플로렌스 무차이플로렌스 무차이 3분 읽기
슈미트는
  • 에릭 슈미드는 AI 시스템이 곧 자체적으로 개선될 수 있다고 경고하며, 그 개발 과정이 통제되지 않아서는 안 된다고 밝혔습니다.
  • 전문가들은 AI 발전에 대해 여전히 의견이 분분합니다. 일부는 AI의 존재적 위험을 우려하는 반면, 다른 이들은 범용 AI 실현은 아직 멀었다고 주장합니다.
  • 슈미드는 미중 간 AI 격차를 좁히는 데 신중함을 보이며, 미국이 AI 개발 경쟁에서 주도권을 유지할 수 있도록 감독과 민주적 가치 우선시를 촉구했습니다.

전 구글 CEO 에릭 슈미트는 인공지능 개발자들에게 개발 한계를 통제할 것을 경고했습니다. 또한 중국과의 지속적인 인공지능(AI) 경쟁에서 미국의 승리가 얼마나 중요한지 강조했습니다.

ABC 뉴스의 이 위크 with 조지 스테파노풀로스 에 일요일 출연한 슈미트는 AI 시스템이 독립적으로 작동하고 심지어 스스로 개선할 잠재력에 대해 경고했습니다. 

“우리는 곧 스스로 실행되는 컴퓨터를 갖게 될 것이며, 그들이 무엇을 하고 싶은지 결정할 것입니다”라고 슈미트는 말했습니다.

슈미트: AI는 방치되어서는 안 된다

슈미트는 방치된 고급 AI의 위험을 다시 한번 강조하며, 자기 개선 능력이 있는 시스템은 상당한 위험을 제시한다고 지적했습니다. 

“시스템이 자기 개선이 가능할 때, 우리는 그것을 플러그를 뽑는 것에 대해 진지하게 생각해야 합니다”라고 전 구글 CEO는 말했습니다.

슈타인푸를로스(Stephanopoulos)가 슈미트(Schmidt)에게 이러한 AI 시스템이 자체를 종료하려는 노력을 차단할 수 있는지 물었을 때, 슈미트는 "음, 이론적으로는 플러그를 뽑는 손이 있는 사람이 있어야 합니다—비유적으로 말하자면."라고 답했다.

concerns about AI의 실존적 위험 이 커지고 있지만, 일부 전문가들은 이러한 우려가 과장되었다고 주장한다. 임페리얼 칼리지 런던의 연구 부총장인 닉 제닝스(Nick Jennings) 교수는 종말론적 예측을 일축하는 인물 중 한 명이다. 

제닝스(Jennings) 주장합니다. AI가 특정 작업에서는 탁월한 성과를 낼 수 있지만, 다양한 분야에서 인간과 유사한 지능을 갖춘 시스템을 만드는 것은 현재 과학자들의 능력 범위를 훨씬 벗어난 일이라고 밝혔다.

“단일 작업을 매우 잘 수행하는 AI를 개발하는 것은 가능하지만,"라고 제닝스는 설명했다. "하지만 여러 과목에 걸쳐 인간 지능을 모방하는 범용 AI를 구축하는 것은 가까운 미래에 기대할 수 있는 일이 아니다."

AI 위협에 대한 의견 분열

한편, poorly defined objectives와 inadequate safety measures로 인한 위험을 경고하는 주요 AI 연구자들 사이에서는 우려가 지속되고 있다. UC 버클리의 스튜어트 러셀(Stuart Russell) 교수와 마이클 코헨(Michael Cohen) 박사후 연구원은 방치될 경우 강력한 AI 시스템이 궁극적으로 인류에게 실존적 위협이 될 수 있다고 주장한다.

4월 Science 저널에 게시된 인사이트 논문에서 러셀과 코헨은 AI 개발에 대한 더 엄격한 감독을 촉구했다. 그들은 기술 기업들이 AI 시스템을 시장에 출시하기 전에 시스템의 안전성을 입증해야 할 필요성을 강조했다. 명확한 목표와 강력한 안전 장치가 없으면 고급 AI 시스템이 인간의 이익에 반하는 행동을 할 수 있다고 그들은 주장한다.

“"이 AI들의 목표가 인간의 목표와 충돌한다면 재앙을 의미할 수 있다,"라고 러셀과 코헨은 썼다. 그들은 기술 기업들이 시스템의 안전성을 보장하고 AI가 절대 넘어서는 안 되는 중요한 '레드 라인'을 식별하는 데 책임을 져야 한다고 믿는다.

AI 안전성에 대한 논쟁 확대

AI 발전의 빠른 속도는 이미 허위 정보 확산, 사회 양극화, 알고리즘 편향 등의 도전을 제시했다. 안전과 규제에 대한 우려는 아직 기술의 발전 속도를 따라가지 못하고 있다.

슈미트의 발언은 산업계 리더들이 이러한 도전에 대응하기 위한 긴박감을 반영한다. 전문가들은 일론 머스크 AI 위험을 완화하기 위한 선제적 규제를 오랫동안 촉구해 왔다. 

AI를 "우리가 직면한 가장 큰 위험"이라고 묘사했던 일 있는 머스크(Musk), 경고했다. 당국이 그 위험을 해결하기 위해 거의 한 일이 없다고 지적했다. 마찬가지로 물리학자 스티븐 호킹(Stephen Hawking)은 특이점, 즉 기계가 인간 지능을 초월하는 시점에 도달하면 인류가 고급 AI 시스템을 제어하지 못하게 될 것이라고 우려했다. 

호킹은 인터뷰에서 규제가 없다면 AI는 "인류에게 가장 좋은 일이 되거나 가장 나쁜 일이 될 수 있다"고 주장했다.

미중 AI 경쟁 심화

슈미트는 미국이 이전에 중국에 대한 AI 개발에서 우위를 점하고 있었지만, 지난 6개월 동안 격차가 크게 좁혀졌다고 지적했다. "중국이 놀라운 속도로 추격해 왔다,"라고 그는 말하며 현재 상황을 두 초강대국 간의 고위험 경주로 묘사했다.

“"아마도 내년이나 그다음 해쯤이면 시스템이 자체 연구를 시작할 수 있는 시점이 올 것이다. 이를 인간 과학자와 구별하여 AI 과학자라고 부른다. 즉, 1,000명의 인간 과학자에서 100만 명의 AI 과학자로 늘어나는 것이다. 나는 이것이 기울기를 높인다고 생각한다. 그리고 이렇게 빠른 속도로 움직일 때 경쟁자들이 따라잡기는 매우 어렵다,",”라고 그는 지적했다.

슈미트는 차기 행정부가 트럼프 행정부 하에서 디지털 자산에 대한 기관의 재조정된 접근 방식을 강조합니다. AI에서의 미국 경쟁력을 우선시할 것이라고 믿으며, 이를 긍정적인 조치로 본다. "인간 가치가 보존되는 한," 그는 말했다. "우리는 괜찮을 것이다."

암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.

플로렌스 무차이

플로렌스 무차이

플로렌스는 지난 6년 동안 암호화폐, 게임, 기술 및 AI 뉴스를 다루어 왔습니다. 메루 과학기술대학교에서 컴퓨터학을, MMUST에서 재난 관리 및 국제 외교를 전공하며 언어, 관찰력 및 기술적 역량을 충분히 갖추었습니다. 플로렌스는 VAP 그룹에서 근무했으며 여러 암호화폐 미디어 하우스의 편집자로 활동했습니다.

더 많은 뉴스 …