의사결정 과정에서 인공지능의 부상

인공지능(AI)의 폭발적인 발전은 우리 세상을 이상적인 꿈이나 종말론적 예측으로 가득 채우고 있지만, 그 어느 것도 진정한 위협을 제대로 포착하지 못하고 있습니다.

우리는 인공지능이나 로봇이 적대적 점령을 시도하는 "대규모 로봇 반란"에 직면하고 있는 것이 아닙니다. 영화 '터미네이터'나 '매트릭스'에서 나오는 장면들은 잊으세요. 그런 일은 일어나지 않을 겁니다. 인공지능이 세계를 정복할 수 있는 기술은 아직 존재하지 않습니다.

인공지능은 단백질 접기나 체스 두기처럼 특정 작업에서는 뛰어날 수 있지만, 군대를 만들거나 국가를 운영할 능력은 없습니다.

하지만 로봇의 반란이 일어나지 않았다고 해서 우리가 안전하다는 뜻은 아닙니다. 인공지능은 덜matic이지만 그에 못지않게 강력한 방식으로 조용히 우리 삶에 스며들고 있습니다. 바로 디지털 관료주의입니다.

진정한 위험은 킬러 로봇이 아닙니다. 바로 인공지능이 우리의 일상생활을 좌우하는 결정에 침투하는 것입니다. 인간은 실체적인 위협을 두려워하도록 진화해 왔습니다. 사자나 상어 같은 큰 포식자를 생각해 보세요.

하지만 우리는 서류, 문서, 관료주의에서 비롯된 위협을 알아차리는 데는 그다지 능숙하지 못합니다. 관료주의 자체는 비교적 새로운 발명품으로, 문자가 발명된 지 불과 5천 년 전에 생겨났습니다.

문자가 발명되기 전에는, 예를 들어 토지 소유권은 공동체 구성원들의 합의에 달려 있었습니다. 만약 당신이 어떤 땅을 "소유"했다면, 그것은 이웃들이 그 땅을 존중했기 때문이었습니다. 어떤 문서도 필요하지 않았습니다. 

점토판에서 디지털 관료에 이르기까지

하지만 사람들이 점토판과 기록을 사용하기 시작하면서 모든 것이 바뀌었습니다. 문자로 기록된 문서는 재산권이 더 이상 공동체의 합의에 의한 것이 아니라 공식 기록에 따른 것임을 의미했습니다. 고대 메소포타미아인들은 진흙 덩어리를 공식적인 소유권의 상징으로 활용하여 소유권 개념을 완전히 뒤집었습니다.

법원 판결은 공동체의 동의 여부와 관계없이 당신이 특정 토지의 소유권을 가진다는 내용의 점토판에 근거할 수 있었습니다. 오늘날에도 우리의 시스템은 여전히 ​​비슷한 원리에 기반하고 있으며, 다만 점토 대신 실리콘 칩과 디지털 기록을 사용할 뿐입니다.

이러한 변화는 권력 구조를 바꿔놓았습니다. 소유권은 지역 사회의 동의 없이도 매매될 수 있는 것이 되었습니다. 관료 조직이 등장하여 세금 징수, 군사 자금 조달, 중앙 정부 운영이 가능해졌습니다.

관료들은 이러한 시스템에서 필수적인 역할을 담당하며, 기록, 양식, 도장을 사용하여 군대를 관리하고, 자원을 배분하고, 심지어 법률까지 통제했습니다. 이러한 관료주의 시스템은 국민을 광범위하게 통제하는 중앙집권적 국가를 탄생시켰고, 이제 그 통제권은 인공지능으로 옮겨가고 있습니다.

인공지능은 로봇 군대를 만들 필요가 없습니다. 단지 관료주의적 시스템을 숙달하면 됩니다. 이러한 틀 안에서 인공지능은 오늘날 볼 수 있듯이 어떤 인간보다도 더 큰 영향력을 행사하는 결정을 내릴 수 있습니다. 인공지능은 이미 대출 승인, 취업 제안, 대학 입학 허가, 심지어 의료 진단까지 결정하고 있습니다.

인공지능 은행가가 신용 적격성을 판단하고, 인공지능 판사가 법정에서 판결을 내리고, 군사 인공지능이 공격 목표를 계산하는 모습을 상상해 보세요. 인공지능은 로봇 반란을 필요로 하지 않습니다. 인공지능이 물려받은 관료적 권력은 이미 막대하기 때문입니다.

소셜 미디어와 대중의 영향력에 있어서의 AI

소셜 미디어 알고리즘은 아직 초기 단계이지만 이미 막대한 영향력을 행사하고 있습니다. 특히 페이스북, X(구 트위터), 유튜브, 틱톡 등의 AI 알고리즘은 사용자 참여를 극대화하는 단 하나의 목표를 염두에 두고 설계되었습니다. 사람들이 이러한 플랫폼에 오래 머무를수록 기업에 돌아가는 수익은 늘어나기 때문입니다. 

수십억 명의 사용자를 대상으로 시행착오를 거듭한 결과, 이러한 알고리즘들은 탐욕, 분노, 공포와 같은 감정을 자극하면 참여도가 높아진다는 사실을 알아냈습니다. 이러한 감정적 버튼을 누르면 사용자들이 계속해서 게임에 몰입하게 되는 것입니다.

이러한 알고리즘들은 단순히 온라인 체류 시간을 최적화하는 데 그치지 않았습니다. 더 나아가 강렬한 감정을 자극하는 콘텐츠가 사용자 참여도를 높인다는 사실을 발견했습니다. 이러한 발견은 음모론, 허위 정보, 그리고 사회적 분열의 확산을 초래했습니다.

오늘날 세계는 클릭 수를 우선시하고 결속력을 약화시키는 알고리즘 덕분에 디지털 분노, 공포 조장, 양극화로 넘쳐나고 있습니다. 소셜 미디어 알고리즘은 감정적 자극을 악용하여 음모론과 가짜 뉴스의 확산을 부추겼습니다.

이러한 알고리즘 기반 "결정자"들은 본질적으로 악의적이지 않습니다. 오히려 그들은 자신의 역할을 효율적으로 수행하도록 최적화되어 있습니다. 하지만 그들의 결정에는 우리가 중요한 영역에서 일반적으로 기대하는 인간의 직관이나 맥락이 부족합니다.

인공지능은 더 빠르고 일관된 판단을 내릴 수 있지만, 오류가 발생할 경우 그 결과는 참담할 수 있습니다. 이러한 잠재적 위험은 이미 소셜 미디어가 사회에 미치는 영향에서 드러나고 있으며, 이는 인공지능의 통제되지 않은 힘이 어떤 결과를 초래할 수 있는지에 대한 경고입니다.

바이든, 국방부 및 정보기관에 인공지능 관련 규정 발표

조 바이든dent 국가 안보 분야에서 인공지능(AI) 사용에 대한 새로운 규칙을 담은 국가 안보 각서를 발표했습니다. 이 규칙은 국방부와 정보 기관이 민주적 가치에 위배되는 방식으로 AI를 사용하는 것을 금지합니다.

이는 국가 안보에서 인공지능의 역할을 규정하는 첫 번째 지침입니다. 새로운 규정은 인공지능 실험을 장려하는 동시에 정부 기관이 인공지능을 이용하여 표현의 자유와 같은 권리를 침해하거나 핵 통제를 약화시키지 않도록 보장할 것입니다.

제이크 설리번 국가안보보좌관은 "이번 양해각서는 정부 전체에 적용되는 최초의 인공지능 위험 관리 체계를 마련하는 것을 목표로 한다"고 밝혔습니다. 그는 편견 방지, 책임성 확보, 그리고 민감한 분야에 투입되는 인공지능에 대한 인간의 감독을 보장하는 것을 주요 목표로 제시했습니다.

법적 구속력은 없지만, 이 규정은 사이버 보안, 방첩, 군사 작전 물류 등 국가 안보 분야에 적용됩니다. 바이든 대통령은 또한 작년에 수출 통제 조치를 발표하여 기술 접근을 제한함으로써 중국의 인공지능(AI) 발전을 늦췄습니다.

이 지침에 따라 워싱턴에 있는 AI 안전 연구소는 AI 도구의 오용을 방지하기 위해 출시 전에 검사하는 책임을 맡게 되며, 미국 정보기관은 다른 국가의 AI 발전 상황을 감시하는 데 우선순위를 둘 것입니다.