의사결정에서의 AI 부상

인공지능(AI)의 폭발적 성장은 우리 세계를 이상적인 꿈이나 종말론적 예측으로 가득 채우고 있지만, 둘 다 실제 위협을 포착하지는 못합니다.

우리는 AI나 로봇이 적대적 지배를 시도하는 ‘거대한 로봇 반란’에 직면해 있지 않습니다. <터미네이터>나 <매트릭스>의 영화 장면을 잊으십시오. 그런 일은 일어나지 않을 것입니다. AI가 세계를 정복할 기술은 존재하지 않습니다.

AI는 단백질 접기나 체스 두기 같은 특정 작업에서는 뛰어나지만, 군대를 건설하거나 국가를 운영하는 능력은 없습니다.

그러나 로봇 반란의 부재가 우리가 안전하다는 것을 의미하지는 않습니다. AI는 덜 드라마틱하지만 equally 강력한 수단인 디지털 관료제를 통해 우리 삶에 조용히 침투하고 있습니다.

진정한 위험은 킬러 로봇이 아닙니다. 그것은 우리의 일상생활을 통제하는 의사결정에 AI가 개입하는 것입니다. 인간은 가시적인 위협에 대해 두려움을 느끼도록 진화해 왔습니다. 사자나 상어 같은 대형 포식자를 생각해 보세요.

하지만 우리는 서류, 문서, 또는 관료제로부터의 위협을 잘 spotting하지 못합니다. 관료제 자체는 비교적 새로운 발명품으로, 글쓰기가 발명된 지 5,000년 만에 발전했습니다.

글쓰기 이전에는 예를 들어 소유권이 커뮤니티의 합의에 의존했습니다. 만약 당신이 토지 한 평을 ‘소유’했다면, 그것은 이웃들이 그것을 존중해 주었기 때문입니다. 문서가 필요하지 않았습니다. 

점토판에서 디지털 관료제까지

사람들이 점토판과 기록을 사용하기 시작하면서 모든 것이 바뀌었습니다. 문서화된 기록은 재산권이 커뮤니티의 합의가 아닌 공식 기록에 기반하게 되었음을 의미합니다. 고대 메소포타미아인들은 진흙 덩어리를 공식 소유권의 상징으로 전환하며 소유의 개념을 뒤집었습니다.

커뮤니티가 동의하지 않더라도, 당신이 토지 한 평을 소유하고 있다는 점토판에 근거한 법원 판결이 가능했습니다. 오늘날으로 넘어오면 우리의 시스템은 여전히 유사한 원칙에 기반하고 있지만, 이제 점토판 대신 실리콘 칩과 디지털 기록을 사용합니다.

이러한 변화는 권력 구조를 변혁시켰습니다. 소유권은 지역 사회의 승인을 받지 않고도 매매와 거래가 가능한 것이 되었습니다. 관료제가 등장하면서 세금 징수, 군사 자금 조달, 중앙 정부의 기능이 가능해졌습니다.

관료들은 기록, 양식, 도장을 사용하여 군대를 관리하고 자원을 배분하며 심지어 법을 통제하는 이러한 시스템에서 필수적인 존재가 되었습니다. 이러한 관료제 시스템은 인구에 대한 광범위한 통제를 가진 중앙 집권적 국가를 탄생시켰으며, 이러한 통제는 이제 AI로 이동하고 있습니다.

AI는 로봇 군대를 일으킬 필요가 없습니다. 단지 관료제 시스템을 숙달하면 됩니다. 이러한 프레임워크 내에서 AI는 오늘날 볼 수 있듯이 인간보다 더 영향력 있는 결정을 내릴 수 있습니다. AI는 이미 우리가 대출을 받는지, 취업 제안을 받는지, 대학 입학 허가 여부를, 심지어 의료 진단까지 결정하고 있습니다.

AI 은행원이 신용 적합성을 결정하거나, AI 판사가 법원 사건을 판결하거나, 군사 AI가 타격 목표를 계산하는 상상을 해보세요. AI는 로봇 반란이 필요하지 않습니다. 그가 계승하고 있는 관료제의 권력은 이미 막대합니다.

소셜 미디어와 공공 영향력에서의 AI

소셜 미디어 알고리즘은 원시적이지만 이미 막대한 권력을 행사하고 있습니다. Facebook, X(구 트위터), YouTube, TikTok 등의 AI 알고리즘은 한 가지 목표, 즉 사용자 참여를 위해 설계되었습니다. 사람들이 이러한 플랫폼에 머무는 시간이 길어질수록 기업으로 유입되는 수익은 증가합니다. 

수십억 명의 사용자를 대상으로 한 시행착오를 통해 이러한 알고리즘은 탐욕, 분노, 두려움과 같은 감정을 자극하면 참여도가 높아진다는 것을 알아냈습니다. 이러한 감정 버튼을 누르면 사용자를 계속 붙잡아 둡니다.

이러한 알고리즘은 온라인 체류 시간 최적화에 그치지 않았습니다. 그들은 강한 감정을 유발하는 콘텐츠가 사용자 참여를 높인다는 사실을 발견했습니다. 이 발견은 음모론, 허위 정보, 사회적 분열의 확산으로 이어졌습니다.

오늘날의 세계는 클릭 수를 단결력보다 우선시하는 알고리즘 덕분에 디지털 분노, 공포 조장, 양극화로 넘쳐납니다. 감정적 트리거를 악용함으로써 소셜 미디어 알고리즘은 오늘날의 음모론과 가짜 뉴스 유행을 부채질해 왔습니다.

이러한 알고리즘적 ‘결정자’들은 본질적으로 악의적이지 않습니다. 오히려 그들은 역할을 효율적으로 수행하도록 최적화되어 있습니다. 그럼에도 불구하고 그들의 결정은 일반적으로 이러한 중요한 영역에서 기대하는 인간의 직관이나 맥락을 결여하고 있습니다.

AI는 더 빠르거나 일관된 판단을 내릴 수 있지만, 문제가 발생하면 결과가 재앙이 될 수 있습니다. 이러한 잠재적 위험은 이미 소셜 미디어가 사회에 미치는 영향을 통해 가시화되었으며, 이는 통제되지 않은 AI의 권력이 어디로 이어질 수 있는지에 대한 경고 역할을 합니다.

바이든, 방위성 및 정보기관에 AI 규제 도입

조 바이든 대통령은 국가 안보 관련 새로운 AI 사용 규칙을 담은 국가 안보 각서를 발표했으며, 이는 방위성과 정보기관이 민주적 가치에 반하는 방식으로 AI를 사용하는 것을 방지한다.

이는 국가 안보에서 AI의 역할에 대한 최초의 지침이다. 새로운 규칙은 AI 실험을 장려하면서도 정부 기관이 표현의 자유와 같은 권리를 침해하거나 핵 통제 체계를 약화시키는 목적으로 AI를 사용하지 않도록 보장한다.

‘우리의 각서는 AI 리스크 관리 약속에 관한 정부 전체 차원의 첫 번째 프레임워크를 지시한다.’라고 제이크 설리번 국가안보보좌관은 말했다. 그는 편향 방지, 책임성 유지, 민감한 역할에서 AI에 대한 인간 감독 보장 등의 목표를 제시했다.

법적 구속력은 없지만, 이 규칙은 사이버 보안, 대정보 활동, 군사 작전에서의 물류 등 국가 안보 응용 분야를 포괄한다. 바이든 대통령은 또한 지난해 수출 통제를 발표해 기술 접근을 제한함으로써 중국의 AI 발전을 늦췄다.

지시에 따라 워싱턴에 위치한 AI 안전 연구소는 출시 전 AI 도구의 오용을 방지하기 위해 검사를 담당하며, 미국 정보 커뮤니티는 다른 국가들의 AI 발전을 모니터링하는 데 우선순위를 둔다.