힐러리 클린턴은 컬럼비아 대학교에서 중요한 강연을 하면서 엄중한 경고를 했습니다. 전 세계적으로 역사적으로 높은 수준의 선거 활동과 최첨단 생성 AI 기술이 확산되어 AI를 통한 잘못된 정보가 확산됨에 따라 2024년은 AI 선거 조작의 "원점"이 될 것이라고 합니다.
클린턴의 비전은 거짓 정보의 확산에 대한 우려가 커지고 민주주의 기관에 대한 대중의 신뢰가 감소하는 상황에서 AI 기반 사기로 인한 임박한 위협에 맞서야 할 필요성을 강조합니다.
전 세계 40억 명이 넘는 사람들이 이번 선거에서 어떤 형태로든 투표할 자격이 있으며, 이는 역사적인 선거입니다. 2024년까지는 생성 AI가 적어도 정치에 영구적인 영향을 미칠 가능성이 높습니다. 그녀는 이렇게 말했습니다.
“올해는 ChatGPT와 같은 AI 기술의 등장 이후 전 세계에서 가장 큰 선거가 치러지는 해입니다.”
딥페이크 사진, 조작된 오디오, 그리고 기타 소프트웨어 생성 콘텐츠는 유권자들에게 영향을 미치거나 유권자들을 소외시키고, 선거 제도에 대한 대중의 신뢰를 약화시키고, 불화를 조장하는 데 활용될 가능성이 높습니다. 이는 선거가 조작될 것이거나 모든 것을 신뢰해야 한다는 주장이 아닙니다. 오히려 모든 사람이 인공지능의 잠재적인 활용과 남용에 대해 인식해야 한다는 것입니다.
AI 허위 정보의 확산과 민주주의에 대한 위협
인공지능(AI) 허위 정보는 선거 정치에 큰 위협이며, 세계 민주주의 과정에도 먹구름을 드리웁니다. 생성적 AI 기술의 발전으로 새로운 기만의 시대가 열렸고, 이를 통해 실물과 거의 똑같은 시청각 콘텐츠를 원활하게 제작할 수 있게 되었습니다.
클린턴이 2016년 선거에서 패배한 이후 정치적 조작의 영역이 크게 확대되었다는 것은 그녀가 정확히 지적한 바와 같습니다. 딥페이크 이미지와 오디오의 유포는 오도하는 이야기의 힘을 더욱 강화했습니다. 조직적인 허위 정보 조작의 표적이 된 자신의 경험을 회고하며, 클린턴은 AI 기반 조작이 야기하는 엄청난 어려움을 극복하는 것이 얼마나 중요한지 강조합니다.
전 국토안보부 장관 마이클 체르토프는 AI 기반 허위 정보가 여론을 교묘하게 조작하고 민주주의 제도에 대한 신뢰를 훼손할 수 있다고 강조하며, 클린턴의 우려를 반박했습니다. 체르토프는 집중적인 허위 정보 조작이 정보 생태계의 허점을 악용하여 극도로 개인화된 콘텐츠 배포 시대에 민주 정부의 근간을 훼손할 수 있다는 위험한 가능성을 경고합니다. 이러한 점을 고려할 때, 2024년 선거는 선거 조작이라는 실존적 문제를 해결하기 위한 AI의 시험대가 될 것입니다.
디지털 시대의 민주주의 수호
AI 허위 정보 의 위협에 맞서 싸우고 있는 만큼, 민주주의 절차를 조작과 왜곡으로부터 보호하는 것은 매우 중요합니다 . 인공지능(AI)이 생성한 콘텐츠의 확산은 정치 담론의 타당성에 대한 심각한 우려를 불러일으키고 있으며, 허위 정보에 대한 기존 대응책의 효과에 대한 의문을 제기합니다.
정보가 무기화되는 시대에는 강력한 보호와 회복력 있는 민주 제도가 그 어느 때보다 중요합니다. 또한,tron토프는 올해 선거 위협이 "훨씬 더 위험하다"고 지적했습니다. 전 세계의 이전 민주 선거들은 특정 후보에게 유리하거나 불리한 방향으로 불화를 조장하거나 표를 조작하려는 시도를 수반했습니다. 2016년 러시아의 선거 개입이나 프랑스에서 1년 만에 마크롱을 해킹한 사례가 그 예입니다.
딥페이크에 대해 알게 된 사람들은 세상의 모든 것이 딥페이크라고 생각하는 걸까요? 결과적으로 부적절한 행동에 대한 확실한 증거조차 무시해야 합니다. 그리고 이는 본질적으로 부패한 공무원과 독재자들에게 원하는 대로 행동할 자유를 제공합니다. 잘못된 정보와 회의론이 만연한 상황에서 민주주의의 생존은 국민으로서 사실과 허구를 구분하고 투표 공정성의 신성함을 수호하는 능력에 달려 있습니다.
