- AI 가 2024 년 선거에 영향을 미칠 수 있지만, 그 영향은 일시적이며 숙련된 운영자의 필요성이라는 한계가 있습니다.
- 민주주의를 보호하기 위해 AI 개인화를 제한하고 온라인 신원을 검증하며 기만적인 정치인을 책임지게 하십시오.
- 자연적 안전장치와 선제적 조치를 통해 선거와 민주주의를 AI 기반 허위 정보로부터 방어할 수 있습니다.
세계는 다양한 국가에서 선거의 물결에 대비하고 있으며, 최소 54개국에서 65건의 선거가 예정되어 있습니다. 이러한 선거에는 20억 명 이상의 유권자가 참여할 것으로 예상됩니다.
이 민주주의 물결 속에서 선거 결과에 영향을 미치는 인공지능(AI)의 역할에 대한 우려가 커지고 있습니다. AI 생성 허위 정보의 잠재적 영향력은 우려할 만하지만, 현재 몇 가지 요인이 그 영향을 완화하고 있습니다.
AI 생성 허위 정보: 커지는 우려
최근 몇 년간 AI 생성 허위 정보의 잠재적 위험을 강조하는 사건들이 있었습니다. 예를 들어, 우크라이나 대통령 볼로디미르 젤렌스키가 국가의 항복을 선언한 것으로 보이는 딥페이크 영상, 펜타곤 폭발을 AI로 생성한 사진, 선거 조작을 시연하는 가짜 오디오 클립 등이 온라인에서 유포되었습니다.
이러한 사례들은 AI가 선거 주기 동안 대중의 인식을 조작하는 데 활용될 수 있다는 우려를 강조합니다.
안심할 수 있는 측면 중 하나는 대부분의 AI 생성 허위 정보가 짧은 기간 동안만 영향을 미친다는 점입니다. 언급된 사례에서 이러한 가짜 내러티브는 빠르게 반박되었으며 권위 있는 뉴스 소스에서 주목을 받지 못했습니다. 이러한 허위 정보는 진정으로 위험해지기 위해 더 광범위하고 설득력 있는 내러티브에 통합되어야 합니다.
숙련된 인간 운영자의 필요성
AI는 설득력 있는 콘텐츠를 생성할 수 있지만, 숙련된 인간 운영자 없이는 이야기를 만들고, 퍼뜨리거나, 유지할 자율성이 부족합니다. 이러한 개인들은 정치, 뉴스, 유통 전반에 대한 지식을 보유하고 있으며, 그들의 전문성은 설득력 있는 내러티브를 구성하고 확산하는 데 필수적입니다.
많은 인간 정치 캠페인이 실패하는 것처럼, AI 기반 캠페인도 숙련된 개인의 지도 없이는 결함에 취약합니다. 그럼에도 불구하고 AI의 능력이 계속 진화함에 따라 우리는 경계를 늦추지 않아야 합니다.
현대 미디어 환경은 단편화되어 있으며, 사용자는 다양한 소셜 네트워크와 플랫폼으로 분산되어 있습니다. Threads, BlueSky, Mastodon과 같은 플랫폼에서 틈새 커뮤니티의 부상과 Facebook 사용자의 Instagram 및 TikTok으로의 다각화는 허위 정보의 도달 범위를 더욱 제한합니다.
이러한 단편화는 이러한 현상을 감지하고 설명하는 데 도전을 제기하지만, 그 영향은 인터넷의 더 작은 구석에 국한시킵니다.
AI 허위 정보에 대한 자연적 보호
이 세 가지 요인—대부분의 AI 생성 가짜의 일시적 성격, 더 큰 내러티브와의 정렬 필요성, 정보 환경의 단편화—는 선거에서 AI의 잠재적 해로부터 일부 "자연적" 보호를 제공합니다.
그러나 이러한 기능에만 의존하는 것은 충분하지 않습니다. 민주주의와 선거를 보호하기 위한 능동적인 접근이 필수적입니다.
AI, 소셜 미디어 또는 유료 광고를 통한 선거 캠페인의 과도한 기술적 개인화는 제한되어야 합니다. 유권자들은 정치인들이 개인적으로 제공할 수 있는 것을 이해하기를 원하지만, 동시에 모든 사람에게 제공되는 정책에 대한 투명성도 원합니다.
정치 캠페인은 개별 유권자에게 메시지를 맞춤화하기 위해 수천 개의 AI 에이전트를 배치하는 것을 자제해야 합니다. 이는 민주적 과정을 훼손할 수 있기 때문입니다.
디지털 영역에서 개인이 주장하는 대로 본인임을 확인하는 것은 중요합니다. 익명성은 투표에서 역할을 하지만, 선거 관련 사항에 대해서는 온라인 신원에 대한 투명성이 필수적입니다.
신뢰는 가장 중요하며, 시민들은 온라인 목소리의 진위성을 확인할 수 있는 수단을 가져야 합니다. AI 생성 콘텐츠는 속이거나 신원을 숨기는 데 사용되어서는 안 됩니다.
소셜 미디어 플랫폼의 역할
정보 유통의 주요 통로로서 소셜 미디어 플랫폼은 AI 생성 허위 정보 퇴치에 적극적으로 기여해야 합니다. 모든 플랫폼이 생성형 AI에서 중요한 플레이어가 될 수는 없지만, 여전히 공적 담론을 형성하는 데 중요한 역할을 합니다. 이러한 플랫폼은 사용자가 AI 생성 콘텐츠를 식별하고, 계정 및 댓글의 대규모 조작을 모니터링 및 방지하며, 조정된 AI 괴롭힘을 억제하고, 시스템에 대한 연구 및 감사를 촉진하는 데 도움을 주어야 합니다.
AI 생성 허위 정보가 초래하는 위협에 대처하기 위해 사회는 민주주의를 지지하기 위한 집단적인 입장을 취해야 합니다. 허위 정보는 종종 영향력 있는 인물들로부터 발생하며, 양극화와 단편화에 기여합니다.
리더들이 모범을 보이면 사회가 따릅니다. 따라서 시민들을 기만하기 위해 AI를 악용하는 정치인과 캠페인을 명확히 비난하고 더 높은 기준을 확립하는 것이 중요합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Brian Koome
브라이언 쿰은 2017 년 이후 블록체인 및 암호화폐 업계에서 활동해 온 7 년 이상의 경험을 보유하고 있습니다. BlockToday.com 을 포함한 주요 출판사에 기고했으며, BitDegree.org 에서 이더리움 101 과정을 개발한 후 Cryptopolitan 의 전속 작가로 합류했습니다. 브라이언은 에버그린 가이드 (EG), 심층 분석, 인터뷰, 가격 분석을 다루며 DeFi, 블록체인 혁신, 그리고 신흥 암호화폐 프로젝트에 집중하여 독자들에게 큰 호응을 얻고 있습니다.
