AI 생성 허위 정보 대응 실패로 소셜 미디어 플랫폼 감시 강화

주요 소셜 미디어 플랫폼인 페이스북과 유튜브는 극우 단체 레푸블리카(Republika)와 관련된 두 가지 우려스러운 사건에 대한 대응 부재로 인해 더 많은 감시를 받고 있습니다. 이러한 사건들은 인공지능(AI)을 사용하여 저명한 정치인을 사칭하고 허위 정보를 유포하는 것과 관련이 있습니다.

유럽연합의 디지털 서비스법(DSA)이 선거 조작 방지 및 오해의 소지가 있는 콘텐츠 유포에 대해 이러한 플랫폼의 책임을 묻고 있으므로 이러한 우려는 더욱 증폭되고 있습니다.

AI 기반 음성이 레푸블리카를 허위로 지지

이러한 우려스러운 게시물에서 AI 생성 음성이 소셜 미디어에 유포된 비디오에 사용되어, 진보당의 지도자 미할 시메차와 전진 슬로바키아(PS) 이사회와 관련이 있던 대통령 주자나 차푸토바의 음성을 모방했습니다. 이러한 조작된 음성은 레푸블리카를 지지하면서도 음성 유사성을 부인합니다. 놀랍게도, 이러한 콘텐츠와 관련된 잠재적 피해에도 불구하고, 페이스북과 유튜브는 48시간이 지난 후에도 보고에 대해 조치를 취하거나 응답하지 않았습니다.

진보당의 지도자 미할 시메차는 이러한 AI 기반 사기에 대해 우려를 표명했습니다. 그는 왓츠앱에서 자신의 음성이 조작되어 맥주 가격 인상을 허위로 약속하는 또 다른 우려스러운 사건을 주목시켰습니다. 시메차는 이를 단호히 부인했으며, 자신의 정당이 알코올 가격 정책에 관여할 의도가 없다고 밝혔습니다. 이러한 기만적 전술은 진보당의 명성을 훼손하고 유권자들 사이에 혼란을 야기하려는 목적을 가지고 있습니다.

전진 슬로바키아당은 공격이 증가하고 있으며, 특히 최근 여론 조사에서 경쟁자인 스메르(Smer) 대비 인기가 상승하고 있습니다. 우크라이나에 대한 군사 지원 종식을 중심으로 한 스메르의 캠페인은 EU 외교 정책에 상당한 영향을 미칠 잠재력을 가지고 있습니다. AI 생성 사기 외에도, 한 후보가 COVID-19 백신으로 사망했다는 등 허위 주장이 유포되었습니다. 이러한 검증되지 않은 주장들은 정치적 담론에 대한 신뢰를 더욱 훼손합니다.

페이스북과 유튜브는 이러한 문제에 대해 눈에 띄게 침묵하고 있지만, 유튜브는 EU 정책을 확실히 준수한다고 주장합니다. 이 플랫폼은 허위 정보에 대한 규정 위반과 관련된 AI 생성 딥페이크를 탐지하기 위한 고급 도구를 사용한다고 주장합니다. 흥미롭게도, 이러한 비디오는 극우 정당 레푸블리카 채널에서 가장 인기 있는 비디오 중 하나이며, 상황을 신속하게 해결해야 하는 긴급성을 강조합니다.

LGBTI+ 커뮤니티를 겨냥하다

이러한 AI 생성 비디오는 정치인을 사칭하며 선거 캠페인에서 논쟁의 대상이 된 LGBTI+ 커뮤니티를 겨냥합니다. 스메르와 그 잠재적 연정 파트너인 레푸블리카는 성 정체성 자기 결정에 대한 진보적 캠페인 동안 트랜스포비아적 혐오 발언을 유포했다는 비난을 받아왔습니다. 이러한 분열적 수사는 소셜 미디어 플랫폼이 이러한 콘텐츠에 대해 단호한 입장을 취하는 중요성을 강조합니다.

중요한 선거의 맥락에서 AI 생성 허위 정보 문제를 해결하려는 소셜 미디어 거대 기업인 페이스북과 유튜브의 망설임은 의구심을 자아내고 있습니다. 허위 정보의 확산과 기만적 목적으로 AI를 활용하는 것이 점점 더 흔해지는 시대에, 기술 거대 기업들이 공공 담론의 무결성을 보호할 책임은 과소평가될 수 없습니다. 이러한 플랫폼이 오해의 소지가 있는 정보의 지속적인 유포를 제한하고 민주적 과정의 신성함을 수호하기 위해 결단력 있는 조치를 취할지 여부는 지켜봐야 합니다.