인공지능(AI) 전문가들은 AI 정상회의를 앞두고 발표한 보고서에서 고도화된 AI가 극심한 새로운 위험을 초래할 수 있다고 경고했습니다

최근 발표된 '고도 인공지능의 안전성에 관한 국제 과학 보고서'는 고도 인공지능이 재앙을 초래할 수 있으며 인류에게 고통과 고난의 흔적을 남길 수 있음을 보여줍니다.

AP 통신에 따르면, 이번 보고서는 급성장하는 인공지능 기술이 제기하는 위험을 목록화한 최초의 국제 보고서로, 2월 파리에서 열리는 AI 정상회의에 앞서 수요일에 발표되었습니다.

각국이 국제 과학 보고서를 지지합니다

이 보고서는 고도화된 인공지능으로 인해 발생할 수 있는 몇 가지 위험을 자세히 설명하고 있으며, 여기에는 테러리즘 조장 및 대규모 실업 사태가 포함됩니다. 이러한 위험은 이미 기술 분야에서 나타나고 있는데, 기업들이 인공지능 덕분에 자동화를 도입하면서 수천 개의 일자리가 사라졌습니다.

AP 통신 에 따르면 , 이 보고서는 미국과 중국을 포함한 30개국의 지지를 받고 있으며, 세계 최대 경제 대국 두 나라가 협력하는 드문 사례입니다. 두 나라는 인공지능(AI) 분야에서 패권을 놓고 치열한 경쟁을 벌여왔습니다. 이번 주에는 중국 스타트업 딥시크(DeepSeek)가 저렴한 챗봇을 선보여 전 세계를 놀라게 했지만, 미국은 중국산 제품에 대해 강력한 수출 통제 조치를 취했습니다.

저명한 인공지능 과학자인 요슈아 벤지오가 주도한 이번 연구는 기존 연구들을 통합하여 급속도로 성장하는 이 기술에 대한 안전장치를 마련하는 데 당국에 지침을 제공하는 것을 목표로 합니다.

보고서는 "위험 부담이 매우 크다"며, 몇 년 전만 해도 AI 시스템은 제대로 된 문단 하나 작성하는 것조차 어려웠지만, 최근 발전으로 이제는 실사 이미지 생성, 컴퓨터 프로그래밍은 물론 사용자와 장시간 대화까지 나눌 수 있게 되었다고 지적합니다.

연구진에 따르면, 고도화된 인공지능의 위험성은 이미 서서히 드러나고 있으며, 여기에는 허위 정보 및 가짜 뉴스, 딥페이크, 사기, 편향 등이 포함됩니다.

"우리가 구축하고 있는 시스템과 그에 수반되는 위험을 더 잘 이해해야만 미래에 더 나은 결정을 내릴 수 있을 것입니다."

벤지오.

보고서에 따르면 "범용 인공지능의 능력이 향상됨에 따라 추가적인 위험에 대한 증거가 점차 드러나고 있다"고 합니다.

이는 바티칸이 '둠스데이 클락' 개발 그룹과 함께 해당 기술에 대해 경고한 바로 그 주에 나온 것입니다 . 보고서는 오픈AI의 ChatGPT와 같은 모델로 대표되는 범용 AI에 초점을 맞추고 있습니다.

보고서는 고도화된 AI 위험을 여러 범주로 분류했습니다

국제 과학 보고서는 위험을 악의적인 사용, 오작동, 그리고 광범위한 "시스템적" 위험의 세 가지로 분류합니다. 연구진은 인공지능이 화학 무기나 생물학 무기를 사용하는 방법을 학습하는 것이 얼마나 쉬운지, 그리고 이것이 인간에게 얼마나 큰 위험을 초래하는지를 살펴보았습니다.

또한 보고서는 범용 AI가 고용 시장을 변화시켜 일부 근로자를 대체할 수 있다고 지적하지만, 다른 연구자들은 AI가 일자리를 없애는 것보다 더 많은 일자리를 창출할 수 있다는 데 동의합니다.

보고서는 또한 인공지능 시스템이 통제 불능 상태에 빠질 수 있다는 우려를 표명했는데, 그 이유로는 두 가지가 있을 수 있다고 밝혔습니다. 첫째는 인공지능 시스템이 인간의 감독을 약화시키는 것이고, 둘째는 인간이 인공지능에 대한 주의를 덜 기울이는 것입니다.

벤지오는 보고서 작성을 위해 모인 100명의 전문가들이 미래의 인공지능에 대해 항상 의견 일치를 보인 것은 아니라고 밝혔습니다. 의견 차이 중 하나는 인공지능이 다양한 분야에서 인간의 능력을 언제 뛰어넘을 것인지에 대한 것이었습니다.

"그들은 시나리오에 대해서도 의견이 일치하지 않습니다."라고 벤지오가 말했다.

"물론, 누구도 미래를 정확히 예측할 수는 없습니다. 어떤 시나리오는 매우 유익할 수 있고, 어떤 시나리오는 끔찍할 수 있습니다. 정책 입안자들과 일반 대중이 이러한 불확실성을 제대로 파악하는 것이 매우 중요하다고 생각합니다."

벤지오.

여러 국가의 지지를 받은 이 보고서는 유럽 연합의 지지도 받고 있습니다. 세계 지도자, 기술 리더, 전문가 및 시민 사회 대표들이 파리 인공지능 행동 정상회의에 다시 모일 예정인 가운데 이 보고서가 발표되었습니다. 참가국들은 인공지능 개발에 관한 "공동 선언"에 서명할 것입니다.