미국 선거를 앞두고 Meta가 러시아의 AI 위협을 경고

Meta는 최근 보안 보고서에서 러시아가 미국 선거에 대한 온라인 기만 캠페인에 생성형 인공지능(AI) 도구를 사용하고 있다고 밝혔습니다. 이 기술 거대 기업은 대부분의 시도가 캠페인을 무력화했기 때문에 실패했다고 주장합니다.

Meta에 따르면 생성형 AI 전략은 최소한의 생산성과 이익만 가져왔습니다. 이는 회사가 플랫폼에서 조정된 부실 행동(CIB)을 감지하고 단속할 수 있었기 때문입니다.

Meta는 러시아를 정치적 영향력 캠페인의 주요 출처로 특정

Meta Adversarial Threat Report의 2분기 보고서에 따르면, Meta 플랫폼의 대부분의 CIB 캠페인은 특히 Facebook과 Instagram에서 러시아에서 기원한 것으로 확인되었습니다. 2017년 이후 이 국가는 39개의 은밀한 작전을 수행했으며, 이란과 중국은 각각 30개와 11개의 작전으로 2위와 3위를 차지했습니다.

이러한 러시아 캠페인은 가짜 계정과 페이지에 크게 의존했으며, 핵심 전술 중 하나는 여러 계정을 확보하는 것이었습니다. 콘텐츠 측면에서 이들은 2022년 우크라이나 침공 이후 러시아의 침공을 정당화하는 동일한 메시지를 전파해 온 것으로 보입니다.

Meta는 이제 11월 대통령 선거가 가까워짐에 따라 향후 몇 달 동안 미국 사용자를 표적으로 한 더 많은 캠페인이 나타날 것으로 예측했습니다. 이러한 캠페인은 반우크라이나 메시지를 확산하고 우크라이나를 지지하는 후보들을 공격할 가능성이 높습니다.

거래소는 다음과 같이 밝혔습니다.

“11월 미국 선거까지 러시아 기반 운영은 우크라이나 원조에 반대하는 후보들을 지지하는 논평을 홍보하고 우크라이나 방어를 옹호하는 후보들을 비판할 것으로 예상됩니다.”

지속적인 위협과 이러한 기만적 캠페인에서 AI의 광범위한 사용에도 불구하고, Meta는 이러한 악의적인 활동을 감지하고 방지하는 매우 효과적인 방법을 개발했다고 주장했습니다. 이 회사는 게시물 콘텐츠보다 계정의 행동 패턴에 초점을 맞춤으로써 자동화된 행동을 더 잘 감지할 수 있게 되었습니다.

러시아의 선거 개입 역사

Meta의 악의적인 정치적 영향력 캠페인을 제한하려는 선제적 조치는 놀라운 일이 아닙니다. 이 회사는 플랫폼에서 이러한 캠페인을 방지하거나 제거하지 못한 혐의로 규제 기관들의 비판을 받아왔습니다. 올해 5월, 유럽연합은 Meta가 선거 무결성 규칙을 준수하지 못한 것에 대한 조사를 개시했습니다.

한편, 러시아는 특히 경쟁 세계 강대국들의 선거 기간 동안 rival 세계 강대국들에 대한 영향력 캠페인을 후원해 온 역사가 있습니다. 이 국가는 Tumblr와 PayPal 같은 앱을 포함한 모든 소셜 미디어 플랫폼을 통해 2016년 미국 선거 결과에 영향을 미쳤다는 비난을 받아왔습니다.

Google을 포함한 모든 플랫폼의 수백만 건의 소셜 미디어 게시물을 분석한 연구에 따르면, 러시아 정부는 여러 요원들을 통해 미국 선거 과정을 약화시키기 위해 허위 정보를 유포했습니다. 이 연구는 많은 이들이 러시아 트롤 농장으로 간주하는 인터넷 연구 기관(IRA)이 이 캠페인을 주도했다고 확인했습니다.

모든 형태의 콘텐츠 생성을 더 쉽게 만드는 생성형 AI 기술의 등장으로, 이러한 기술이 이번 선거에서 영향력 캠페인에 사용될 가능성이 매우 높다는 우려가 제기되었습니다. 지금까지 여러 보안 전문가들이 그 사용 사례를 일부 확인했습니다. 그러나 정치 후보들끼리 서로 AI 사용을 비난하기도 했습니다.