AI와 소셜 미디어가 남아프리카 공화국의 다가오는 선거에서 전장을 형성하다

남아프리카 공화국의 대통령 선거가 가까워지면서, 정치 무대에서 이전에 보지 못했던 독특한 주제가 등장했으며, 풍자와 가짜 뉴스는 확실히 혼란을 가중시키고 있다. CAUCA와 남아프리카 공화국 국가 편집자 포럼(SANEF), 그리고 미디어 모니터링에 전문성을 가진 조직인 MMA의 협력을 통해 AI로 편향된 뉴스 사용이 임박한 선거의 과정에 지대한 영향을 미칠 수 있는 전제 조건으로서의 위험이 감지되었다.

AI 혁명이 남아프리카 공화국의 선거 지형을 변화시키다

이 디지털 트렌드는 국가의 선거 과정에서 중요한 전환점을 신호한다: 시간이 지남에 따라 이 매개변수는 가짜 뉴스와 허위 정보의 공세에 대한 가장 효과적인 싸움이 벌어질 가장 중요한 분야가 될 것이며, 보편적인 시민의 검증된 정보 접근 권리가 위태로워질 것이다.

미디어는 미디어를 노예로 만듭니다. 이는 일반 대중이 미디어 개념을 접하기 전에 믿었던 뉴스가 최신 뉴스로 즉각적으로 변형됨으로써 가능해졌습니다.

@DZumaSambudla가 공개한 바이럴 영상과 함께, 전 대통령 자콥 주마의 딸이자 MK 당의 후보인 두두질레 주마-삼부들라가 트럼프의 목소리를 모방하고 이 당의 목표를 설명한 계정이 있습니다.

심층 위조(deep fakes) 제작에 충격을 받아 참여하는 것과 유사한 상호작용도 존재하며, 이는 선거 캠페인에서 이러한 콘텐츠의 확산 문제를 야기할 것입니다.

정치적 내러티브 구축에서 AI의 역할

이러한 맥락에서 허위 이미지를 심어넣어 장면을 구성하고 사회 변화를 유도하는 방식으로 보여주었습니다. 이를 예시하기 위해, 트위터 계정 'BlackPride'는 편집된 사진을 유포하여 MK-사회 당의 브랜드 티셔츠를 입은 여성이 사람들을 밀어내는 모습을 묘사함으로써 당의 인기를 부정확하게 표현하기도 했습니다. 

예를 들어, Ela(ELA)는 압축 수준이 비현실적인 이미지를 보여주며 사기를 폭로한 수정 방법을 제시했습니다.

이는 AI가 민주주의 원칙에 근본적인 위험을 초래하는 효과적이고 악의적인 콘텐츠 제작을 가능하게 하기 때문입니다. 

이러한 기술이 정보를 입증하고 반박하는 능력은 막대하며, 따라서 진위 여부를 구분하는 유권자의 권리에 대한 신뢰의 그림자가 드리워질 것입니다.

규제의 난제

남아프리카공화국 독립선거위원회(IEC)는 디지털 침입자들의 범람에 대응하기 위해 더 높은 수준의 사고가 필요한 상황에 직면해 있습니다. 선거 규칙집의 승인은 개별 후보와 정당에 대한 허위 정보 유포를 금지합니다. 

그러나 이러한 규칙이 광범위하게 적용되는 동안 전술적 트릭이 악용되었습니다. 공공 기관은 생성된 자료를 사용하여 이러한 규칙을 우아하게 적용했으며, 선거 위원회에 직접적으로 위배되지 않는 방식으로 유권자를 설득하는 콘텐츠를 생성했습니다.

기술적 디지털화로 인한 혼란에 대처할 수 있는 기존 모델을 재평가할 시기가 도래했습니다. 따라서 AI 콘텐츠의 확장은 선거 감시 기관과 규제 기관의 더 엄격한 모니터링 필요성을 시사합니다. 

그들은 허위 정보 확산에 대응하는 방식을 지속적으로 정교화해야 할 의무가 있으며, 만일의 사태에 대비하여 깨끗하고 투명한 투표 과정을 보장하기 위해 노력합니다.