인공지능 연구원들은 고도화된 인공지능으로 인해 인류가 멸종할 확률이 5%라고 주장합니다

최근 6대 인공지능(AI) 학회에서 논문을 발표한 2,700명의 AI 연구자를 대상으로 실시한 설문조사에서dent의 약 58%가 AI가 인류 멸종이나 기타 재앙적인 결과를 초래할 가능성이 5%라고 생각하는 것으로 나타났습니다.

이번 조사에서는 인공지능 기술의 주요 발전 단계와 그에 따른 잠재적인 사회적 영향에 대한 시간표도 살펴보았습니다. 연구자들 사이의 불확실성과 의견 차이에도 불구하고, 이러한 결과는 인공지능 커뮤니티 내에서 인간을 초월하는 인공지능 개발과 관련된 잠재적 위험에 대한 우려를 조명합니다.

연구진들은 인공지능 멸종 위험에 대해 우려를 표명했습니다

이번 설문조사의 저자이자 캘리포니아에 있는 기계 지능 연구소(Machine Intelligence Research Institute)의 연구원인 카티아 그레이스는 고도화된 AI가 제기하는 위험이 결코 작지 않다는 믿음의 중요성을 강조했습니다. 그레이스는 "대부분의 AI 연구자들이 고도화된 AI가 인류를 파멸시킬 가능성을tron하게 배제하지 않는다는 것은 중요한 신호입니다."라고 말했습니다. 그러나 오하이오주 케이스 웨스턴 리저브 대학교의 에밀 토레스 교수는 당장 경각심을 가질 이유는 없다고 밝혔습니다.

토레스는 전문가 설문조사에 과민 반응하는 것을 경계하며,tron설문조사가 인공지능 발전을 정확하게 예측하는 데 있어 trac실적을 보여주지 못한다고 지적했습니다. 2012년의 이전 연구에서도 인공지능 전문가의 예측이 일반 여론보다 더 신뢰할 만하지 않다는 결과가 나왔습니다. 이번 설문조사의 저자들 역시 인공지능 연구자들이 인공지능의 미래 궤적을 예측하는 데 전문성을 갖추고 있지 않을 수도 있다고 언급했습니다.

가속화된 목표 달성 및 조기 예측

2022년 동일 조사와 비교했을 때, 최근 조사에 참여한 많은 AI 연구자들은 AI가 특정 이정표에 예상보다 더 빨리 도달할 것이라고 전망했습니다. 이러한 예측은 2022년 11월 ChatGPT와 같은 고급 AI 챗봇 서비스의 출시와 실리콘 밸리에서 유사한 AI 모델들이 빠르게 도입된 시기와 일치합니다.

연구진은 향후 10년 안에 인공지능 시스템이 다양한 작업을 성공적으로 수행할 확률이 50% 이상일 것으로 예측했습니다. 이러한 작업에는 테일러 스위프트와 같은 인기 가수의 노래와 구별할 수 없을 정도로 유사한 노래를 제작하거나 결제 처리 웹사이트 전체를 처음부터 코딩하는 것이 포함됩니다. 그러나 가정에 전기 배선을 설치하거나 오랫동안 풀리지 않았던matic난제를 해결하는 것과 같은 복잡한 작업에는 더 오랜 시간이 걸릴 것으로 예상되었습니다.

인공지능이 모든 분야에서 인간의 능력을 뛰어넘을 가능성은 2047년까지 50%로, 모든 인간의 일자리가 완전히 자동화될 가능성은 2116년까지 50%로 추산되었습니다. 이러한 추정치는 전년도 조사에 비해 각각 13년과 48년 앞당겨진 것입니다.

예측 불가능한 AI 혁신과 당면 과제

인공지능 개발에 대한 기대감이 높아지고 있음에도 불구하고, 에밀 토레스는 기술적 혁신의 예측 불가능성에 대해 신중한 입장을 표명했습니다. 토레스는 인공지능 분야가 1970년대와 80년대에 자금 지원과 기업의 관심이 감소하는 이른바 "인공지능 겨울"을 경험한 바 있다고 지적했습니다.

또한, AI 연구원들은 딥페이크를 비롯한 AI 오용, 여론 조작, 인공 무기 개발, 권위주의적 인구 통제, 그리고 악화되는 경제적 불평등과 같은 당면한 우려 사항들을 강조했습니다. 토레스는 또한 기후 변화와 민주적 거버넌스와 같은 중요한 문제에 대한 허위 정보 유포에 AI가 기여할 수 있는 잠재적 위험성을 강조했습니다.

인공지능 연구자들을 대상으로 한 설문조사에 따르면, 고도화된 인공지능 개발과 관련된 잠재적 위험에 대해 인공지능 커뮤니티 내에서 상당한 우려가 있는 것으로 나타났습니다. 인공지능이 인류 멸종을 초래할 정확한 위험률은 아직 불확실하지만, 적지 않은 위험이 존재한다는 인식은 인공지능 개발에 있어 지속적인 윤리적 및 안전적 고려가 필요함을 강조합니다.

인공지능 기술의 발전 속도가 빨라질 것이라는 예측에도 불구하고, 연구자들은 기술 발전의 예측 불가능성을 인정하며 인공지능의 오용과 사회적 영향과 같은 당면 과제를 강조합니다. 인공지능이 계속 발전함에 따라 연구자, 정책 입안자, 그리고 사회 전체는 이러한 과제들을 선제적이고 책임감 있게 해결해야 합니다.