- AI 연구자들은 고급 AI 로 인한 인간 소멸 위험이 5% 에 달한다고 인정하며, 윤리적 AI 개발의 필요성을 강조합니다.
- 설문에 따르면 AI 전문가들은 마일스톤 가속화를 예측하지만 해당 분야의 미래는 여전히 불확실합니다.
- 즉각적인 우려 사항으로는 AI 오용, 딥페이크 및 민주주의에 미치는 영향이 있으며, 이는 책임 있는 AI 개발의 시급성을 부각시킵니다.
최근 6개 최상위 AI 컨퍼런스에서 논문을 발표한 2,700명의 인공지능(AI) 연구자들을 대상으로 실시된 설문 조사에서, 응답자의 거의 58%가 AI로 인한 인간 멸종 또는 기타 파국적 결과의 가능성이 5% 있다고 믿는 것으로 나타났습니다.
이 설문 조사는 또한 AI 기술적 마일스톤의 타임라인과 잠재적인 사회적 영향을 탐구했습니다. 연구자들 사이의 불확실성과 의견 불일치에도 불구하고, 이러한 발견들은 초인간적 AI 개발과 관련된 잠재적 위험에 대한 AI 커뮤니티 내의 우려를 조명합니다.
연구자들은 AI 멸종 위험에 대해 신중함을 표명합니다
캘리포니아 머신 인텔리전스 연구소(Machine Intelligence Research Institute)의 연구원이자 설문 조사 저자 중 한 명인 카티아 그레이스는 고급 AI가 초래할 수 있는 미미하지 않은 위험에 대한 신념의 중요성을 강조했습니다. 그레이스는 “대부분의 AI 연구원들이 고급 AI가 인류를 파멸시킬 가능성이 강하게 불가능하다고 보지 않는다는 것은 중요한 신호입니다.”라고 말했습니다. 그러나 오하이오 주 케이스 웨스턴 리저브 대학교의 학자 에밀 토레스에 따르면 즉각적인 경보 발령의 필요성은 없습니다.
토레스는 전문가 설문조사에 과잉 반응하는 것을 경계하며, 이러한 조사들이 AI 발전을 정확하게 예측하는 데 있어 뚜렷한 성과를 거두지 못했다고 지적했다. 2012년 이전의 한 연구에 따르면 AI 전문가들의 예측은 일반 여론보다 더 신뢰할 수 없었다. 현재 설문조사의 저자들 역시 AI 연구자들이 AI의 미래 궤적을 예측하는 데 필요한 전문성을 갖추지 못했을 수 있다고 지적했다.
가속화된 마일스톤과 더 이른 예측
동일한 설문조사의 2022년 버전과 비교할 때, 최신 설문조사에 참여한 많은 AI 연구자들은 AI가 이전에 예측되었던 것보다 더 빨리 특정 마일스톤에 도달할 것으로 예상했다. 이러한 예측은 2022년 11월 ChatGPT와 같은 고급 AI 채팅봇 서비스의 출시와 실리콘밸리에서 유사한 AI 모델의 급속한 배포와 맞물렸다.
연구자들은 향후 10년 이내에 AI 시스템이 다양한 작업을 성공적으로 수행할 가능성이 50% 이상이라고 전망했다. 여기에는 테일러 스위프트와 같은 인기 아티스트의 노래와 구별할 수 없는 노래를 작곡하거나, 결제 처리 웹사이트를 처음부터 완전히 코딩하는 작업이 포함되었다. 그러나 가정에 전기 배선을 물리적으로 설치하거나 오랜 시간 동안 해결되지 않은 수학의 미스터리를 푸는 것과 같은 다른 복잡한 작업들은 더 오래 걸릴 것으로 예상되었다.
AI가 모든 작업에서 인간 성능을 능가할 가능성은 2047년까지 50%로 추정되었으며, 모든 인간 일자리가 완전히 자동화될 가능성은 2116년까지 50%로 나타났다. 이러한 추산치는 전년도의 설문조사 대비 각각 13년, 48년의 가속화를 의미한다.
예측 불가능한 AI 돌파구와 즉각적인 우려
AI 개발에 대한 기대감이 높아졌음에도 불구하고, 에밀 토레스는 기술적 돌파구의 예측 불가능성에 대해 경계심을 표명했다. 토레스는 AI 분야가 1970년대와 80년대에 자금 지원과 기업 관심의 감소 기간, 즉 'AI 겨울'로 알려진 시기를 겪은 적이 있다고 지적했다.
또한 AI 연구자들은 딥페이크, 여론 조작, 엔지니어링된 무기 개발, 권위주의적 인구 통제, 악화되는 경제적 불평등 등 AI 오용과 관련된 즉각적인 우려를 제기했다. 토레스는 또한 AI가 기후 변화와 민주적 거버넌스와 같은 중대한 이슈에 대한 허위 정보 확산에 기여할 잠재적 위험을 강조했다.
AI 연구자들에 대한 설문조사는 고급 AI 개발과 관련된 잠재적 위험에 대해 AI 커뮤니티 내에서 상당한 수준의 우려가 있음을 보여준다. AI가 인간 멸종을 초래할 정확한 위험 비율은 불확실하지만, 미미하지 않은 위험에 대한 믿음은 AI 개발에서 지속적인 윤리적 및 안전 고려의 필요성을 강조한다.
AI 마일스톤에 대한 예측이 가속화되었음에도 불구하고, 연구자들은 기술적 진보의 예측 불가능성을 인정하고 AI 오용 및 사회적 영향과 같은 즉각적인 우려를 강조한다. AI가 계속 진화함에 따라 연구자, 정책 입안자, 그리고 사회 전체는 이러한 과제에 능동적이고 책임감 있게 대응해야 한다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
에디타 패트릭
에다타는 블록체인 도메인에 대한 깊은 이해를 갖춘 다재다능한 핀테크 분석가입니다. 기술이 그녀를 매료시키는 만큼, 기술과 금융의 교차점은 더욱 놀랍습니다. 디지털 지갑과 블록체인에 대한 그녀의 특별한 관심은 청중에게 도움이 됩니다.
