미국 대선을 앞두고 소셜 미디어 플랫폼들은 잘못된 정보를 다루는 데 소극적이다

미국이 다가오는 선거를 앞두고 소셜 미디어 플랫폼에서 허위 정보가 확산되는 것에 대한 우려가 커지고 있습니다. 이러한 우려는 일론 머스크의 트위터(현재 X로 전환), 메타 플랫폼(구 페이스북), 구글 유튜브 등 주요 플랫폼들이 허위 정보 근절에 점점 소극적인 태도를 보이는 데서 비롯됩니다. 이러한 접근 방식의 변화는 허위 정보 확산을 용이하게 하는 인공지능 도구의 등장과 맞물려 선거 공정성에 심각한 위협을 가하고 있습니다.

소셜 미디어 변혁과 콘텐츠 모니터링의 변화

소셜 미디어 환경에서 가장 주목할 만한 변화 중 하나는 일론 머스크가 트위터를 "X"로 리브랜딩한 것입니다. 이는 더욱 제한 없는 플랫폼으로의 전환입니다. 그러나 콘텐츠 모니터링 방식을 바꾸는 것은 X만이 아닙니다. 페이스북을 소유한 메타 플랫폼스(Meta Platforms Inc.)는 

인스타그램과 스레드는 자사 플랫폼에서 뉴스와 정치 콘텐츠를 축소해 왔습니다. 마찬가지로, 구글의 유튜브는 정치적 발언 제한에 대한 우려를 이유로 2020년 선거와 관련된 허위 정보를 삭제하지 않기로 결정했습니다.

이러한 변화는 인공지능 도구가 허위 정보의 급속한 확산을 가능하게 하고 사회적 분열이 신뢰를 약화시키는 중요한 시점에 다가왔습니다. 세계경제포럼(WEF)은 글로벌 위험 보고서에서 허위 정보를 가장 심각한 단기 위협으로dent.

미국 민주주의에 대한 위협

민주당 광고 기술 회사인 DSPolitical의 최고기술책임자(CTO)인 마크 자블로노프스키는 플랫폼이 광고에 대한 투명성을 더 요구하고 있지만, 통제되지 않는 유기적 허위 정보의 확산은 미국의 민주주의에 근본적인 위협을 초래한다고 경고했습니다.

기업들이 검열 관행을 재평가하는 가운데, 자블로노프스키는 해결되지 않은 거짓 바이러스 콘텐츠가 유권자의 인식을 형성하고 2024년 선거 결과에 영향을 미칠 수 있다는 우려를 표명했습니다.

미국 외 지역의 위험

이러한 플랫폼 변화의 영향은 미국을 넘어 전 세계로 확대됩니다. 2024년에는 약 60개국에서 선거가 치러지므로, 새로운 콘텐츠 관리 방식을 실험하기에는 위험한 해입니다.

미국 대선 캠페인이 이미 진행 중입니다. 도널드 트럼프 전dent 아이오와 코커스에서 선전하며 조 바이든dent 과의 재대결을 위한 발판을 마련할 가능성이 있습니다. 두 후보의 양극화된 성향을 고려할 때, 2021년 1월 6일 국회의사당 테러 사건에서 알 수 있듯이 실제 폭력 사태의 위험이 높아지고 있습니다.

폭력을 조장하거나 유권자를 오도하는 콘텐츠를 금지하는 정책 지침에도 불구하고 X, Meta, YouTube와 같은 플랫폼은 검열을 피하는 동시에 선거의 공정성을 유지해야 하는 과제에 직면해 있습니다.

재정적, 정치적 압력

플랫폼의 콘텐츠 관리에 대한 태도 변화에는 여러 요인이 작용합니다. 효율성 추구와 같은 재정적 동기로 인해 기술 기업들은 비엔지니어링 인력을 감축했습니다. 예를 들어, 메타의 마크 저커버그는 회사의 대규모 인력 감축이 업계에 도움이 되었다고 설명했습니다.

정치적 압력 또한 한몫했는데, 미국 보수주의자들은 기술 기업이 민감한 정치 및 사회 문제에 대해 진실을 defi할 권한을 가져서는 안 된다고 주장했습니다. 2020년 대선 전 바이든 아들에 대한 기사가 삭제되었다가 나중에 근거 없는 것으로 판명되면서 논란이 일었고, 공격적인 콘텐츠 삭제에 따른 상충 관계에 대한 의문이 제기되었습니다.

잘못된 정보에 대한 정책을 시행하는 것은 어려운 일이며, 특히 COVID-19 팬데믹처럼 빠르게 변화하는 상황에서는 더욱 그렇습니다. 빠르게 변화하는 상황에 맞춰 콘텐츠 삭제를 시행하려는 시도는 진실을 규명하는 데 한계와 어려움을 초래할 수 있습니다.

이러한 과제의 결과 중 하나는 소셜 미디어 플랫폼이 덜 논란적인 주제로 전환되고 있다는 것입니다. 메타(Meta)가 트위터의 경쟁 플랫폼으로 내세운 스레드(Threads)는 정경심 뉴스와 정치에 수반되는 비판과 부정적인 시각을 피하기 위해 라이프스타일 및 엔터테인먼트 콘텐츠에 초점을 맞춥니다.

AI가 생성한 딥페이크: 점점 커지는 우려

AI가 생성한 딥페이크에 대한 우려가 커지면서 메타는 이전 선거에서 사용했던 것과 유사한 프로토콜을 시행할 계획입니다. 여기에는 선거 1주일 전에 새로운 정치 광고를 금지하는 것도 포함됩니다. 플랫폼들은 AI를 사용하여 가짜 이미지, 오디오 또는 비디오를 생성하는 딥페이크에 대해 점점 더 우려하고 있습니다. 딥페이크가 허위 정보에 미치는 영향은 아직 크지 않지만, 특히 선거일과 같이 시급한 상황에서는 딥페이크가 의심을 불러일으킬 가능성이 있습니다.

바이든 선거캠프는 이미 딥페이크를 포함한 온라인 허위정보에 법적 조치를 취해 대응해 왔습니다. 이러한 조치는 저작권법 및 사칭 금지법 위반 가능성에 초점을 맞추고 있습니다.