전 세계가 여러 국가에서 치러지는 총선거의 소용돌이에 대비하고 있으며, 54개국에서 최소 65건의 총선이 예정되어 있습니다. 이 선거에는 20억 명이 넘는 유권자가 참여할 것으로 예상됩니다.
에 미치는 영향에 대한 우려가 선거 결과 커지고 있습니다. AI가 생성한 허위 정보의 잠재적 영향은 우려스러운 부분이지만, 현재로서는 여러 요인이 그 영향력을 완화하고 있습니다.
인공지능이 생성한 허위 정보: 점점 커지는 우려
최근 몇 년 동안 여러dent들이 인공지능(AI)이 생성한 허위 정보의 잠재적 위험성을 부각시켰습니다. 예를 들어, 우크라이나 대통령dent 젤렌스키가 항복을 선언하는 것처럼 보이는 딥페이크 영상, 펜타곤 폭발을 묘사한 AI 생성 사진, 그리고 선거 조작을 증명하는 것처럼 위장한 가짜 음성 파일 등이 온라인에 유포되었습니다.
이러한 사례들은 인공지능이 선거 기간 동안 대중의 인식을 조작하는 데 이용될 수 있다는 우려를 부각시킨다.
다행스러운 점은 AI가 생성한 허위 정보의 영향력이 대부분 단기적이라는 것입니다. 앞서 언급된 사례들에서 이러한 가짜 뉴스는 빠르게 반박되었고, 공신력 있는 뉴스 매체에서 trac되지 못했습니다. 이러한 허위 정보가 진정으로 위험해지려면 더 광범위하고 설득력 있는 이야기 속에 녹아들어야 합니다.
숙련된 인력 운영자의 필요성
인공지능은 설득력 있는 콘텐츠를 생성할 수 있지만, 숙련된 인간 운영자 없이는 스토리를 만들고, 퍼뜨리고, 유지할 자율성이 부족합니다. 이러한 인간 운영자는 정치, 뉴스, 유통 등 다양한 분야에 대한 지식을 보유하고 있으며, 설득력 있는 이야기를 구성하고 전파하는 데 있어 그들의 전문성은 필수적입니다.
수많은 인간 정치 캠페인이 실패하듯이, 인공지능 기반 캠페인 역시 숙련된 전문가의 지도가 없다면 여러 가지 문제점을 드러낼 수 있습니다. 그럼에도 불구하고, 인공지능의 역량이 계속 발전함에 따라 우리는 경계를 늦추지 않아야 합니다.
현대 미디어 환경은 파편화되어 있으며, 사용자들은 다양한 소셜 네트워크와 플랫폼에 흩어져 있습니다. Threads, BlueSky, Mastodon과 같은 플랫폼에서 틈새 커뮤니티가 성장하고, 페이스북 사용자들이 인스타그램과 틱톡으로 이동함에 따라 허위 정보의 확산은 더욱 제한됩니다.
이러한 파편화는 그러한 현상을 감지하고 설명하는 데 어려움을 초래하지만, 그 영향은 인터넷의 더 작은 영역에 국한됩니다.
인공지능 허위정보에 대한 자연적 보호
인공지능이 생성한 가짜 뉴스의 일시적인 특성, 더 큰 담론과의 연계 필요성, 그리고 정보 환경의 파편화라는 세 가지 요인은 선거에서 인공지능이 초래할 수 있는 잠재적 피해에 대한 어느 정도의 "자연적인" 보호 장치를 제공합니다.
하지만 이러한 특징들에만 의존하는 것은 충분하지 않습니다. 민주주의와 선거를 보호하기 위한 적극적인 접근 방식이 필수적입니다.
인공지능, 소셜 미디어, 유료 광고 등을 통한 선거 운동에서의 과도한 기술적 개인화는 자제되어야 합니다. 유권자들은 정치인들이 개별적으로 무엇을 제공할 수 있는지 알고 싶어 하는 동시에, 모든 사람에게 제시되는 정책에 대한 투명성도 원합니다.
정치 캠페인에서 유권자 개개인에게 맞춤형 메시지를 전달하기 위해 수천 명의 AI 에이전트를 배치하는 것은 민주주의 절차를 훼손할 수 있으므로 자제해야 합니다.
디지털 영역에서는 개인이 본인임을 확인하는 것이 매우 중요합니다. 익명성이 투표에 영향을 미치는 것은 사실이지만, 선거와 관련해서는 온라인dent에 대한 투명성이 필수적입니다.
신뢰는 무엇보다 중요하며, 시민들은 온라인상의 의견의 진위 여부를 확인할 수 있는 수단을 가져야 합니다. AI가 생성한 콘텐츠는 신분을 속이거나dent데 사용되어서는 안 됩니다.
정보 확산의 주요 통로인 소셜 미디어 플랫폼은 AI가 생성하는 허위 정보에 적극적으로 대응해야 합니다. 모든 플랫폼이 생성형 AI 분야에서 중요한 역할을 하지는 않더라도, 공공 담론을 형성하는 데 있어 여전히 중요한 역할을 합니다. 이러한 플랫폼들은 사용자들이 AI 생성 콘텐츠를dent지원하고, 계정과 댓글의 대규모 조작을 감시 및 방지하며, 조직적인 AI 기반 괴롭힘을 억제하고, 시스템에 대한 연구 및 감사를 용이하게 해야 합니다.
인공지능이 생성하는 허위 정보의 위협에 맞서기 위해서는 사회 전체가 민주주의를 수호하는 공동의 입장을 취해야 합니다. 허위 정보는 영향력 있는 인물들로부터 나오는 경우가 많으며, 이는 사회 양극화와 분열을 조장합니다.
지도자들이 모범을 보이면 사회도 따라갑니다. 따라서 더 높은 기준을 세우고 인공지능을 악용하여 시민들을 호도하는 정치인과 선거 운동을 단호히 규탄하는 것이 중요합니다.
