존재론적 위험에 대한 우려 속에서 AI 안전에 대한 선제적 입장을 취하는 영국

입장 변화를 주목할 만한 변화로, 영국은 인공 지능(AI)과 관련된 잠재적 위협에 대처하기 위해 적극적으로 조치를 취하고 있습니다. 리시 수낙 총리는 이러한 위협에 대응하는 것의 시급성을 강조하며 국제 AI 안전 정상회의 개최 계획을 발표했습니다. 이 변화는 봄에 AI의 존재론적 위험을 "높은 영향, 낮은 확률"로 특징지었던 이전의 AI 백서 이후 이루어졌습니다.

이 관점의 변화는 부분적으로 AI 안전을 옹호하는 사고의 리더 그룹인 효과적 이타주의(Effective Altruism, EA) 운동의 영향력 때문으로Attributed됩니다. 이는 종종 기술 산업의 저명한 인물들의 지지를 받습니다.

효과적 이타주의: 미래 지향적 접근 옹호

효과적 이타주의 운동은 영국의 AI 안전 입지를 형성하는 데 결정적인 역할을 해왔습니다. 옥스퍼드 대학교에 뿌리를 두고 실리콘 밸리의 거물들의 지지를 받아왔습니다. EA 추종자들은 적절하게 관리되지 않는다면 초지능 AI가 인류에게 존재론적 위협을 가할 수 있다고 믿습니다. 

그들의 접근 방식은 즉각적인 우려보다 장기적인 고려 사항을 강조하며, 초지능 AI 추구는 흔들림 없는 주의와 함께 진행되어야 한다고 주장합니다. 그들에게 AI 개발의 잠재적 결과는 이분법적입니다: 유토피아 아니면 파멸. 이 관점은 영국에서 지지를 얻었으며, EA 우려와 일치하는 정부 고문들과 운동과 연결된 AI 연구소들과의 수낙 총리의 긴밀한 유대가 그 예입니다.

이안 호가스의 경고, 행동 촉발

이 변화의 결정적인 순간은 4월 테크 투자자 이안 호가스(Ian Hogarth)가 바이러스성 파이낸셜 타임스 기사를 작성하여 "신과 같은 AI" 로의 경쟁과 그것이 인류의 구식화나 파괴를 가져올 잠재성에 대해 경보를 울렸을 때였습니다. 그의 기사는 대규모 AI 실험에 대한 유예를 촉구한 영향력 있는 "AI 일시 중단" 편지와 같은 감정을 반영했습니다.

AI가 소멸 위험을 초래한다는 또 다른 편지와 함께, 이는 광범위한 논의를 촉발하고 수낙 총리가 이러한 위험에 대해 우려를 표명하도록 했습니다.

영국의 AI 안전 태스크포스에 대한 효과적 이타주의의 영향

이안 호가스의 리더십 하에, 영국의 파운데이션 모델 태스크포스는 새로운 파트너십을 발표했으며, 그 중 상당수가 효과적 이타주의 운동과 관련이 있습니다. 특히 "AI 소멸 위험" 편지로 알려진 Centre for AI Safety는 주요 EA 기부 조직인 Open Philanthropy로부터 주요 자금을 받습니다. Arc Evals은 AI 시스템의 잠재적 파국적 위험을 다루며, 또 다른 EA 기부자가 지원하는 파트너입니다. 

변혁적 기술의 거버넌스 모델에 초점을 맞춘 Community Intelligence Project도 EA 커뮤니티와 연결되어 있습니다. 태스크포스의 연구 팀에는 Open Philanthropy로부터 AI 시스템으로 인한 인류 소멸 위험을 줄이기 위해 상당한 보조금을 받은 케임브리지 대학교 교수 데이비드 크루거(David Krueger)가 포함됩니다.

AI 안전과 프론티어 모델

이제 "Frontier AI Taskforce"로 명칭을 변경한 태스크포스는 즉각적인 지평 너머의 emerging AI 위험을 다루기 위해 초점을 넓히고 있습니다. 그것은 위험을 관리하고 사회를 위한 기술의 혜택을 활용하는 것을 목표로 합니다. 그러나 이러한 관점의 변화는 일부로부터 비판을 받았습니다. 

연구자와 AI 윤리 전문가들은 존재론적 위험에 대한 초점이 오늘날의 AI 모델에서 편견, 데이터 프라이버시, 저작권 문제와 같은 시급한 우려를 가렸다고 주장합니다. 그들은 AI 안전 논의가 경보성이며 실증적 증거가 부족해졌다는 우려를 표명합니다.

효과적 이타주의, 테크 거인, 정책의 교차점

EA 운동의 실리콘 밸리와의 강한 유대는 그 객관성에 의문을 제기합니다. OpenAI, DeepMind, Anthropic과 같은 주요 AI 연구소들은 EA와 연결되어 있으며, 그 이데올로기는 그들의 에토스와 결정에 영향을 미칩니다. 

페이스북 공동 창립자 더스틴 모스코비츠가 설립한 Open Philanthropy는 OpenAI에 상당한 초기 자금을 제공했습니다. Skype 창립자 Jaan Tallinn은 DeepMind의 초기 투자자이자 전 임원이었습니다. EA와 관련된 "롱텀" 이데올로기의 지지자인 일론 머스크는 그의 새로운 스타트업 xAI의 고문으로 AI 안전 센터의 디렉터인 Dan Hendrycks를 고용했습니다.

AI 안전을 위한 EA의 재정 지원

지각된 위협에 대응하기 위해, EA 운동은 상당한 자원을 AI 안전에 투입하고 있습니다. Open Philanthropy의 책임자 Harold Karnofsky는 AI 안전에 집중하기 위해 일시적으로 물러났습니다. EA 직업 조언 센터인 80,000 Hours는 AI 안전 기술 연구와 AI의 미래 거버넌스 형성을 EAs를 위한 최상위 직업 선택으로 권장합니다. 이 지원은 "존재론적 위험"과 "파멸의 확률"과 같은 용어를 포함하는 독특한 어휘와 결합되어 있어, AI 안전 논의에서 EA를 구분합니다.

영국의 AI 안전 의제가 탄력을 받음에 따라, 일부 전문가들은 편견, 데이터 프라이버시, 윤리적 고려 사항과 같은 즉각적인 AI 관련 과제를 소홀히 하는 것에 대해 경고합니다. 그들은 존재론적 위험에 대한 초점이 이러한 시급한 문제들을 가렸다고 주장합니다. 비판자들은 또한 운동이 AI 회사들과 밀접한 관계가 규제 포획(regulatory capture), 즉 산업이 정책 결정에 부당한 영향을 미치는 것으로 이어질 수 있다는 우려를 표명합니다.

복잡한 생태계: AI 정책을 형성하는 EA의 역할

영국의 AI 안전 의제를 형성하는 데 있어 효과적 이타주의 운동의 영향력은 부인할 수 없습니다. 학문에 뿌리를 두고 실리콘 밸리의 지지를 받아, 그것은 존재론적 위험을 주목받는 곳으로 성공적으로 끌어올렸습니다. 그러나 영국이 이러한 복잡한 환경을 탐색함에 따라, 정책 입안자들은 장기적인 AI 안전 우려와 오늘날의 AI 기술이 제기하는 즉각적인 윤리적, 법적, 사회적 도전 과제 사이에서 균형을 잡아야 합니다.

영국의 AI 안전에 대한 선제적 접근은 AI 개발의 진화하는 지형을 반영합니다. 효과적인 이타주의와 그 장기적 관점이 이러한 변화에서 중추적인 역할을 했지만, 영국은 존재론적 위험을 해결하는 것과 지금 여기에서 AI의 윤리적 및 사회적 영향을 관리하는 것 사이의 균형을 맞추는 과제를 안고 있습니다. 국제 AI 안전 정상회의가 다가오는 가운데, 영국이 이러한 복잡한 상황을 어떻게 헤쳐나가고 전 세계적 차원에서 AI의 미래를 형성하는 데 기여할지 주목됩니다.