인공지능 기술의 발전은 인공지능이 선거 결과에 영향을 미칠 수 있는 윤리적 문제로 이어지는 상황을 초래했습니다. 특히 선거 필터에 인공지능을 사용하는 것은 그 자체로 문제가 될 수 있습니다.
마이크로소프트의 경고 및 평가
마이크로소프트의 위협 인텔리전스 부서는 보고서에서 2024년 선거 기간 동안 국가 지원 해킹 그룹의 배후에 중국이 가장 큰 위협이 될 가능성이 높다고 지적했으며, 북한이 개입할 경우 선거 시스템 침투를 통해 국가 선거 기관 시스템에 접근할 가능성이 크다고 밝혔습니다. 그러나 이러한 경고는 중국이 대만dent선거에 인공지능(AI)을 이용해 선거 결과에 영향을 미친 사건 이후에 나온 것입니다.
이 계획의 개발 및 실행 과정에서는 인공지능(AI) 기술도 활용되었는데, 이는 가짜 음성 지지 발언이나 밈 등 AI가 생성한 콘텐츠가 특정 후보의 이미지를 실추시키거나 유권자들에게 특정 방식으로 영향을 미쳤기 때문입니다. 미국은 또한 중국을 정치적으로 이용하려는 시도도 했습니다. 보고서에 따르면, 중국 단체들은 특정 유권자 집단을 대상으로 유사한 허위 정보 유포 캠페인을 벌이는 한편, 동시에 특정 정당을 지지하는 자료도 게시했습니다. 그러나 이와 관련한 연구들은 여론의 급격한 변화를 초래했다는 주장을 뒷받침할 충분한 증거를 제시하지 못하고 있습니다.
2024년 뉴햄프셔 민주당 예비선거를 앞두고, 조 바이든dent 의 목소리를 사칭한 인공지능(AI) 생성 음성 메시지가 유권자들에게 투표에 참여하지 말라고 촉구했습니다. 이 사례는 중국과는 무관하며 AI가 민주주의에 미치는 위협을 보여주기 위한 것이라는 주장도 있지만, AI가 민주주의 원칙에 잠재적인 위협을 가할 수 있음을 분명히 보여줍니다.
인도의 선거에 미치는 영향
4월 19일부터dent선거가 시작되는 미국과 마찬가지로, 인도에서도 인공지능(AI)을 이용한 선거 개입이 위협으로 거론되고 있습니다. 이는 사이버 공격이 증가하는 추세 속에서 인도 선거의 공정성을 보호하기 위한 예방 조치를 강화해야 할 필요성이 절실함을 보여줍니다. 전체 선거 과정이 7단계로 구성되어 있는 만큼, 4월 19일부터 6월 1일까지 AI가 투표 과정에 개입할 가능성에 대한 우려는 충분히 타당해 보입니다.
세계 최대 민주주의 국가인 인도는 외부 세력의 개입으로부터 선거 제도의 일관성을 유지하는 데 있어 다양한 도전에 직면해 있습니다. 인공지능(AI)이 생성한 이러한 콘텐츠는 유권자들의 인식을 조작하여 역설적으로 민주적 절차의 정당성을 훼손함으로써 유권자들이 선거에 대한 신뢰를 잃게 만들 수 있습니다.
대규모 선거가 증가하는 세계적 추세의 핵심적인 측면 중 하나는 인공지능(AI)이 생성한 콘텐츠가 초래하는 위험성입니다. 정부, 기술 제공업체, 그리고 인권 단체는 이 문제를 최고위급 차원에서 다뤄야 합니다. 이러한 가짜 뉴스의 확산을 즉시 찾아내 차단할 수 있는 강력한 대책을 마련하기 위해 공동의 노력이 필요합니다. 따라서 다가오는 인도 선거의 최우선 과제는 공정하고 정직하며 투명한 절차를 제공하는 것입니다. 기본적으로 AI 조작으로부터의 보안을 확보하고, 교육, 문해력 증진, 디지털 캠페인, 그리고 유권자 인식 제고 활동을 통해 디지털 시대의 민주주의를 수호해야 합니다.
이는 심각한 위협이며, 선거 과정의 민주주의와 공정성을 위협하는 심각한 결과를 초래할 가능성까지 내포하고 있습니다. 이러한 네트워크에 대한 지속적인 감시와 이해관계자들의 적극적인 대응을 통해, 허위 정보 유포가 건전한 민주주의에 미칠 수 있는 피해를 예방하기 위한 관련 주체들의 협력이 증진될 수 있습니다.
