AI 의사결정에서의 민주적 결핍: 권력은 누구에게 있는가?

인공지능(AI)에 의해 점점 더 형성되는 세상에서, 많은 사람들이 이 파괴적 시대를 맞이하기로 누가 결정했는지 궁금해하고 있습니다. 당신도 많은 다른 사람들처럼 우리 삶에 AI가 대규모로 등장한다는 소식에 뒤처졌나요? 사실, AI 개발과 배포에 관한 핵심 결정들은 소수의 선택된 집단이 주도해 왔으며, 나머지 우리들의 의견은 거의 반영되지 않았습니다. 이러한 민주적 참여의 부재는 우려스러운 사항이며, 점점 더 커지는 불안을 초래할 수 있습니다.

힘의 불균형: 소수가 AI를 조종하다

소수의 AI 연구자들은 이 기술 혁명의 설계자들입니다. 그들은 AI가 전례 없는 인간 진보의 잠재력을 가지고 있다는 신념에 의해 움직입니다. 그들은 AI의 능력을 한계까지 밀어붙이려 하지만, 그 과정에서 기술과 그 잠재적 결과에 대한 자신의 통제력이 약화되고 있음을 공개적으로 인정했습니다. 이는 질문을 제기합니다: 소수의 전문가 집단이 사회를 잠재적으로 위험한 길로 이끌 권한을 가져야 할까요?

우리가 저녁 메뉴로 무엇을 원하는지 묻자 ‘태국 음식’이라고 답했는데, 피자와 캐나다 베이컨 피자 중 하나를 고르라고 하는 것과 같습니다. 이는 진정한 선택이 아니라 민주적 가스라이팅의 한 형태입니다. 기능적인 민주주의는 몇몇 컴퓨터 과학자들이 미래 세대에 돌이킬 수 없는 영향을 미칠 결정을 내리는 것을 허용해서는 안 됩니다.

기술 거물들과의 상담: 민주주의의 결여된 목소리

AI의 운명을 소수의 AI 연구소들에 맡기는 것 외에도, 우리의 선출된 관리자들은 이제 이 신흥 기술을 어떻게 규제할지 같은 대표성 부족과 선출되지 않은 기술 리더들로부터 조언을 구하고 있습니다. 워싱턴 D.C.의 최근 헤드라인은 상원 의원 X가 기술 리더 Y와 상담하는 것으로 가득 차 있습니다. 이러한 회의에서 눈에 띄게 결석한 것은 AI의 결과(좋든 나쁘든, 혹은 끔찍하든)를 가장 크게 겪을 커뮤니티, 즉 해외 및 국내 대표자들입니다.

인구의 상당 부분이 AI가 이 규모로 도입되어서는 안 되었거나, 아마도 지금 시점에서는 도입되어서는 안 되었다고 믿고 있다는 점은 중요합니다. 만약 당신이 이 우려를 공유한다면, 이미 시기를 놓쳐 방향을 바꾸기에는 늦었다고 한탄할지도 모릅니다. 우리는 의사결정의 ‘피자 또는 캐나다 베이컨’ 단계에 도달해 있으며, AI의 궤적에 대한 우리의 영향력은 극히 미미합니다. 더구나, 만약 우리가 AI 모델의 배포를 중단하는 데 성공하더라도, 중국이나 기타 잠재적 적대국과 같은 다른 국가들은 자체 모델을 계속 발전시켜 향후 분쟁에서 우리를 향해 사용할 위험이 있습니다.

그러나 무제한 AI 개발을 지지하는 주장들은 설득력이远습니다. 많은 사람들은 AI에서 세계를 선도하는 것보다 강력한 커뮤니티, 의미 있는 일, 비판적 사고, 사회 기관에 대한 신뢰를 특징으로 하는 미국에서 살고 싶어 할 것입니다. 사실, 전자의 미국 버전이 기술을 인간 번영의 핵심으로 과도하게 신뢰하는 다른 어떤 국가보다 더 오래 지속되고 경쟁 우위를 점할 가능성이 높습니다.

AI 의사결정에서의 민주적 결핍을 해결하기 위해, 우리는 ‘우리는 AI 개발을 어떻게 형성할 것인가?’라는 서사에서 ‘언제, 어떤 조건 하에서 제한적인 AI 사용을 허용해야 하는가?’로 전환해야 합니다. 그 interim 동안, 관리자들이 AI 전문가들과 리더들로부터 지침을 구하는 것은 합리적입니다. 그러나 AI가 우리 사회를 어떻게 변화시킬지 결정할 때, 권력은 궁극적으로 기술 CEO나 소수의 연구자가 아닌 유권자에게 있어야 합니다. 우리의 AI 기반 미래를 형성하기 위해 더 포용적이고 민주적인 접근 방식이 필요한 때입니다.