2024년 사회는 급증하는 AI 허위 정보의 물결에 어떻게 대응할 것인가?

힐러리 클린턴은 컬럼비아 대학교의 중요한 강연에서 2024년이 전 세계적으로 역사적으로 높은 수준의 선거 활동과 최첨단 생성형 AI 기술의 확산으로 인한 AI 허위 정보 확산이 결합되면서 AI 선거 조작의 ‘ground zero(핵심 지역)’가 될 것이라고 엄중히 경고했다.

클린턴의 비전은 허위 정보 확산과 민주적 기관에 대한 대중의 신뢰 하락이라는 배경 속에서 AI 기반 기만이 초래할 임박한 위협에 직면해야 할 필요성을 강조한다.

올해 선거 해에는 지구상 40억 명 이상이 어떤 형태로든 투표 자격을 가지고 있어 역사적인 선거가 될 것이다. 2024년까지 생성형 AI는 적어도 정치에 영구적인 영향을 미칠 가능성이 높다. 그녀는 이렇게 말했다.

“ChatGPT와 같은 AI 기술이 부상한 이후 전 세계에서 가장 큰 선거들이 열리는 해가 바로 올해입니다.”

딥페이크 사진, 조작된 오디오, 기타 소프트웨어 생성 콘텐츠는 유권자의 영향력 행사 또는 이탈, 선거 시스템에 대한 대중의 신뢰 훼손, 그리고 불화 조장을 위해 사용될 가능성이 높다. 이는 선거가 조작된다는 주장이나 모든 것을 신뢰해야 한다는 뜻이 아니다. 오히려 모든 사람이 인공지능의 잠재적 용도와 남용 가능성을 인식해야 한다.

AI 허위 정보의 부상과 민주주의에 대한 위협

인공지능(AI) 디스인포메이션은 선거 정치와 전 세계 민주적 절차에 대한 주요 위협이자 먹구름이다. 생성형 AI 기술의 발전은 실제 사물의 거의 완벽한 복제본인 오디오비주얼 콘텐츠를 매끄럽게 생산할 수 있게 함으로써 새로운 시대의 기만이 시작되었다.

클린턴이 정확히 지적했듯이, 2016년 그녀의 선거 패배 이후 정치 조작의 영역은 크게 확장되었으며, 딥페이크 이미지와 오디오의 유포는 오해의 소지가 있는 서사의 힘을 증폭시켰다. 클린턴은 herself가 조직화된 허위 정보 작업의 표적이 된 자신의 경험을 돌이켜보며, AI 기반 위조가 제기하는 거대한 어려움에 대처하는 것이 얼마나 중요한지 강조한다.

마이클 체르토프 전 국토안보부 장관은 클린턴의 우려를 공유하며, AI 기반 디스인포메이션이 대중의 의견을 호도하고 민주적 기관에 대한 신뢰를 훼손하는 교묘한 방식을 강조한다. 체르토프는 초개인화된 콘텐츠 배포의 시기에 집중된 디스인포메이션 작업이 정보 생태계의 구멍을 이용해 민주적 정부의 근본을 훼손할 수 있는 위험한 가능성을 경고한다. 이러한 맥락에서 2024년 선거는 선거 개조라는 실존적 문제에 대한 AI의 테스트 런이 된다.

디지털 시대의 민주주의 보호

학자들과 정책 입안자들이 선거 장면 위에 드리운 AI 허위 정보의 위협에 직면하는 가운데, 민주적 과정을 조작과 왜곡으로부터 보호하는 것은 중요합니다. 인공지능(AI) 생성 콘텐츠의 확산은 정치적 담론의 타당성에 대한 심각한 우려를 제기하며, 허위 정보에 대한 전통적인 대응책의 효과성에 의문을 제기합니다.

정보가 무기로 사용되는 시점에서 강력한 보호 장치와 탄력적인 민주적 기관은 그 어느 때보다 중요하다. 또한 체르토프에 따르면 올해의 선거 위협은 “더욱 위험하다.” 과거 전 세계 민주적 선거에서는 러시아의 2016년 선거 개입이나 프랑스에서 마크롱을 해킹한 사건처럼 특정 후보를 지지하거나 반대하기 위해 불화를 조장하거나 표를 움직이려는 시도가 있었다. 

딥페이크에 대해 알게 된 사람들이 세상의 모든 것이 딥페이크라고 가정하는가? 그 결과, 부적절한 행위의 확실한 증거조차 무시되어야 한다. 그리고 이는 본질적으로 부패한 정부 관리와 독재자들이 마음대로 행동할 수 있는 자유를 제공한다. 허위 정보와 회의론이 만연한 배경 속에서 민주주의의 생존은 우리가 사실과 허구를 구분하고 투표의 신성함을 보호하는 능력에 달려 있다.