- 토론토대(U of T)를 포함한 AI 리더들이 AI의 존재적 위협을 경고하며 정책 입안자들의 신속한 조치를 촉구했습니다.
- 급속한 AI 발전이 규제를 앞지르며 팬데믹과 핵전쟁에 버금가는 위험을 초래하고 있습니다.
- 기술의 눈부신 속도를 따라잡기 위해 시장 기반 AI 규제 방안이 제안되고 있습니다.
인공 지능(AI) 분야는 Chat-GPT와 DALL-E와 같은 AI 프로그램의 놀라운 기능으로 특징지어지는 중대한 변혁을 경험하고 있습니다. 이러한 프로그램들은 예술적 창작물과 추상적 사고 능력으로 대중을 매료시켰지만, 심각한 우려도 불러일으켰습니다. 음모론자들의 망상 너머로, 토론토 대학교(U of T)의 리더들을 포함한 업계 리더들은 AI의 잠재적 실존적 위협에 대해 경고를 보내고 있습니다.
경계 촉구
U of T의 Schwartz Reissman Institute(SRI)의 모니크 크리클로(Monique Crichlow) 이사는 기술 개발의 빠른 속도가 그 함의를 이해하는 우리의 능력을 초과할 수 있다고 지적합니다. AI가 실제로 실존적 위협을 제기하는지 불확실하지만, SRI는 세계 지도자들이 이 가능성을 진지하게 고려할 것을 촉구합니다.
U of T의 AI와의 복잡한 역사
SRI의 메시지는 AI 개발에서 U of T의 역사적 역할로 인해 그 중요성이 증폭됩니다. 11년 전, 제프리 힌트(Geoffrey Hinton)와 U of T의 두 대학원생들은 Chat-GPT와 같은 기술의 기반을 마련한 인공 신경망을 개척했습니다. AI의 '할아버지'로 종종 불리는 힌트는 나중에 비영리 AI 연구 회사인 Vector Institute를 설립했습니다.
올해 5월, 힌튼은 구글에서의 직위를 사임하며 AI 개발에 대한 자신의 기여에 대해 유감을 표명했습니다. 그는 AI가 제기하는 존재론적 위협의 중대성을 인정하며, 더 책임 있는 접근 방식이 필요하다고 강조했습니다.
전문가들은 입법과 협력을 촉구합니다
힌튼과 토론토 대학교 법학 교수인 길리언 해드필드는 AI 안전 센터(Centre for AI Safety)의 성명서에 서명자로 참여했습니다. 이 성명서는 AI 관련 멸종 위험을 완화하는 것을 최우선으로 삼을 것을 촉구하며, 그 위험을 팬데믹과 핵전쟁에 비유하며 글로벌 협력의 중요성을 강조했습니다.
또한 해드필드는 GPT-4보다 강력한 AI 시스템의 훈련을 즉각 중단할 것을 주장하는 서한에 서명했습니다. 퓨처 오브 라이프 인스티튜트(Future of Life Institute)가 발표한 이 서한은 AI 개발의 열띤 경쟁을 지적하며, 심지어 창작자들도 자신의 창작물을 이해하고 통제하는 데 어려움을 겪고 있다고 밝혔습니다. 또한 AI 연구소, 기업, 정부 간의 협력을 강조하며 산업 감시 기구와 포괄적인 규제 프레임워크의 구축을 촉구했습니다.
혁신과 책임의 균형
모니크 크리클로는 정지 서한이 혁신을 억누르려는 의도가 아니라 기술 발전의 방향에 대한 비판적 사고를 장려한다고 명확히 했습니다. 이는 강력한 규제 조치를 통해 AI를 올바른 방향으로 이끌어야 한다는 필요성을 강조하며, 업계 많은 이들이 공유하는 인식입니다.
캐나다의 AI 규제
캐나다 하원은 C-27 법안을 검토 중이며, 이는 오타와가 AI를 규제하기 위해 내린 첫 번째 포괄적인 시도입니다. 이 법안의 주요 내용 중 하나는 AI 개발자, 배포자, 관리자가 자신의 기술이 가져올 위험을 완화하고 모니터링할 책임을 지도록 하는 것입니다. 여기에는 개인 데이터의 익명성을 보호하고 소비자에게 잠재적 위험에 대한 명확한 설명을 제공하는 것이 포함됩니다.
그러나 제안된 규제에는 결함이 없지는 않습니다. AI의 지수적 발전 속도는 일반적으로 느린 정책 결정 속도와 충돌합니다. AI는 본질적으로 복잡하여 정부 관리자들이 잠재적 위협에 대응하기 위한 효과적인 입법을 작성하는 것이 어렵습니다.
AI 규제를 위한 새로운 접근 방식
길리언 해드필드와 오픈AI의 정책 책임자 잭 클라크는 AI 규제를 위한 시장 기반 접근 방식을 제안합니다. 이 모델에서는 AI 기술의 개발자와 배포자가 제3자 규제 기관으로부터 규제 서비스를 구매하는 데 대해 책임을 집니다. 이 접근 방식은 AI 개발자의 속도를 따라잡는 부담을 개발자 자신에게 전가합니다.
이러한 모델이 현실이 되기 전까지, 캐나다를 포함한 전 세계 정부는 잠재적인 글로벌 존재론적 위기를 향해 질주하는 AI 개발자들을 따라잡는 데 어려움을 겪을 것입니다.
AI 기술의 급속한 발전은 그 잠재적 존재론적 위협에 대해 상당한 우려를 불러일으켰습니다. 토론토 대학교의 지도자와 저명한 AI 업계 인물들은 신중함을 촉구하며 정책 입안자들에게 결단력 있는 조치를 취할 것을 요청합니다. AI 규제에 대한 논쟁이 계속되는 가운데, 혁신과 책임 사이의 균형을 찾는 것은 인공 지능 시대에 더 안전하고 보안이 강화된 미래를 보장하기 위한 중요한 과제입니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
글로리 카부루
글로리는 AI 도구와 연구에 능통한 매우 유능한 저널리스트입니다. 그녀는 AI 에 열정을 가지고 있으며 이 주제에 관한 여러 편의 기사를 집필했습니다. 그녀는 인공지능, 머신러닝, 딥러닝 분야의 최신 동향을 항상 파악하고 정기적으로 글을 씁니다.
