인공지능(AI) 전문가들은 AI 정상회의를 앞두고 발표한 보고서에서 고도화된 AI가 극심한 새로운 위험을 초래할 수 있다고 경고했습니다

최근 발표된 '고도 인공지능의 안전성에 관한 국제 과학 보고서'는 고도 인공지능이 재앙을 초래할 수 있으며 인류에게 고통과 고난의 흔적을 남길 수 있음을 보여줍니다.

AP 통신에 따르면, 이번 보고서는 급성장하는 인공지능 기술이 제기하는 위험을 목록화한 최초의 국제 보고서로, 2월 파리에서 열리는 AI 정상회의에 앞서 수요일에 발표되었습니다.

각국이 국제 과학 보고서를 지지합니다

이 보고서는 고도화된 인공지능으로 인해 발생할 수 있는 몇 가지 위험을 자세히 설명하고 있으며, 여기에는 테러리즘 조장 및 대규모 실업 사태가 포함됩니다. 이러한 위험은 이미 기술 분야에서 나타나고 있는데, 기업들이 인공지능 덕분에 자동화를 도입하면서 수천 개의 일자리가 사라졌습니다.

에 따르면 AP 통신, 이 보고서는 미국과 중국을 포함한 30개국의 지지를 받고 있으며, 세계 최대 경제 대국 두 나라가 협력하는 드문 사례입니다. 두 나라는 인공지능(AI) 분야에서 패권을 놓고 치열한 경쟁을 벌여왔습니다. 이번 주에는 중국 스타트업 딥시크(DeepSeek)가 저렴한 챗봇을 선보여 전 세계를 놀라게 했지만, 미국은 중국산 제품에 대해 강력한 수출 통제 조치를 취했습니다.

저명한 인공지능 과학자인 요슈아 벤지오가 주도한 이번 연구는 기존 연구들을 통합하여 급속도로 성장하는 이 기술에 대한 안전장치를 마련하는 데 당국에 지침을 제공하는 것을 목표로 합니다.

보고서는 "위험 부담이 매우 크다"며, 몇 년 전만 해도 AI 시스템은 제대로 된 문단 하나 작성하는 것조차 어려웠지만, 최근 발전으로 이제는 실사 이미지 생성, 컴퓨터 프로그래밍은 물론 사용자와 장시간 대화까지 나눌 수 있게 되었다고 지적합니다.

연구진에 따르면, 고도화된 인공지능의 위험성은 이미 서서히 드러나고 있으며, 여기에는 허위 정보 및 가짜 뉴스, 딥페이크, 사기, 편향 등이 포함됩니다.

"우리가 구축하고 있는 시스템과 그에 수반되는 위험을 더 잘 이해해야만 미래에 더 나은 결정을 내릴 수 있을 것입니다."

벤지오.

보고서에 따르면 "범용 인공지능의 능력이 향상됨에 따라 추가적인 위험에 대한 증거가 점차 드러나고 있다"고 합니다.

바로 그 주에 나온 것입니다 바티칸이 개발 그룹과 함께 해당 기술에 대해 경고한 '둠스데이 클락'. 보고서는 오픈AI의 ChatGPT와 같은 모델로 대표되는 범용 AI에 초점을 맞추고 있습니다.

보고서는 고도화된 AI 위험을 여러 범주로 분류했습니다

국제 과학 보고서는 위험을 악의적인 사용, 오작동, 그리고 광범위한 "시스템적" 위험의 세 가지로 분류합니다. 연구진은 인공지능이 화학 무기나 생물학 무기를 사용하는 방법을 학습하는 것이 얼마나 쉬운지, 그리고 이것이 인간에게 얼마나 큰 위험을 초래하는지를 살펴보았습니다.

또한 보고서는 범용 AI가 고용 시장을 변화시켜 일부 근로자를 대체할 수 있다고 지적하지만, 다른 연구자들은 AI가 일자리를 없애는 것보다 더 많은 일자리를 창출할 수 있다는 데 동의합니다.

보고서는 또한 인공지능 시스템이 통제 불능 상태에 빠질 수 있다는 우려를 표명했는데, 그 이유로는 두 가지가 있을 수 있다고 밝혔습니다. 첫째는 인공지능 시스템이 인간의 감독을 약화시키는 것이고, 둘째는 인간이 인공지능에 대한 주의를 덜 기울이는 것입니다.

벤지오는 보고서 작성을 위해 모인 100명의 전문가들이 미래의 인공지능에 대해 항상 의견 일치를 보인 것은 아니라고 밝혔습니다. 의견 차이 중 하나는 인공지능이 다양한 분야에서 인간의 능력을 언제 뛰어넘을 것인지에 대한 것이었습니다.

"그들은 시나리오에 대해서도 의견이 일치하지 않습니다."라고 벤지오가 말했다.

"물론, 누구도 미래를 정확히 예측할 수는 없습니다. 어떤 시나리오는 매우 유익할 수 있고, 어떤 시나리오는 끔찍할 수 있습니다. 정책 입안자들과 일반 대중이 이러한 불확실성을 제대로 파악하는 것이 매우 중요하다고 생각합니다."

벤지오.

여러 국가의 지지를 받은 이 보고서는 유럽 연합의 지지도 받고 있습니다. 세계 지도자, 기술 리더, 전문가 및 시민 사회 대표들이 파리 인공지능 행동 정상회의에 다시 모일 예정인 가운데 이 보고서가 발표되었습니다. 참가국들은 인공지능 개발에 관한 "공동 선언"에 서명할 것입니다.