미국 대선이 다가옴에 따라 Meta는 러시아의 AI 위협에 대해 경고했습니다

최근 보안 보고서에서 메타는 러시아가 미국 대선 관련 온라인 허위 정보 유포를 위해 인공지능(AI) 생성 도구를 사용하고 있다고 밝혔습니다. 메타는 이러한 시도 대부분이 실패로 돌아갔으며, 자사가 이를 저지했다고 주장했습니다.

Meta에 따르면, 생성형 AI 전략은 생산성과 성과 면에서 최소한의 효과만 가져왔습니다. 이는 Meta가 자사 플랫폼에서 조직적인 비정상적 행위(CIB)를 감지하고 차단할 수 있었기 때문입니다.

Meta는 러시아를 정치적 영향력 행사 캠페인의 주요 원천으로dent합니다

메타 적대적 위협 보고서에 2분기dent났습니다. 2017년 이후 러시아는 39건의 비밀 작전을 수행했으며, 이란과 중국이 각각 30건과 11건으로 그 뒤를 이었습니다.

이러한 러시아의 캠페인은 가짜 계정과 페이지에 크게 의존했으며, 여러 개의 계정을 확보하는 것이 핵심 전술이었습니다. 콘텐츠 측면에서 보면, 이 계정들은 모두 2022년 러시아의 우크라이나 침공 이후 침공을 정당화하는 동일한 메시지를 퍼뜨린 것으로 보입니다.

메타는 11월dent다가옴에 따라 향후 몇 달 동안 미국 사용자를 대상으로 하는 캠페인이 더 많이 나타날 것으로 예측했습니다. 이러한 캠페인은 반우크라이나 메시지를 퍼뜨리고 우크라이나를 지지하는 후보들을 공격할 가능성이 높습니다.

거기에는 이렇게 적혀 있었습니다:

"지금부터 11월 미국 대선까지 러시아에 기반을 둔 조직들이 우크라이나 지원에 반대하는 후보들을 지지하는 논평을 퍼뜨리고, 우크라이나의 국방력 지원을 옹호하는 사람들을 비판할 것으로 예상합니다."

이러한 기만적인 캠페인에서 인공지능(AI)이 지속적으로 위협과 악용되고 있음에도 불구하고, 메타는 이러한 악의적인 활동을 탐지하고 예방하는 매우 효과적인 방법을 개발했다고 주장했습니다. 이 회사는 게시물의 내용이 아닌 계정의 행동 패턴에 초점을 맞춰 자동화된 활동을 더욱 효과적으로 탐지할 수 있다고 설명했습니다.

러시아의 선거 개입 역사

메타가 악의적인 정치적 영향력 행사 캠페인을 제한하기 위해 선제적으로 나서는 것은 놀라운 일이 아닙니다. 이 회사는 자사 플랫폼에서 그러한 캠페인을 예방하거나 제거하지 못했다는 이유로 규제 당국의 비판을 받아왔습니다. 올해 5월, 유럽연합은 메타가 선거 공정성 규정을 준수하지 않았다는 이유로 조사를 시작했습니다.

한편, 러시아는 특히 선거 기간 동안 경쟁국에 대한 영향력 행사 공작을 지원해 온 역사를 가지고 있습니다. 러시아는 텀블러와 페이팔 같은 앱을 포함한 모든 소셜 미디어 플랫폼을 통해 2016년 미국 대선 결과에 영향을 미쳤다는 비난을 받아왔습니다.

구글을 포함한 모든 플랫폼의 수백만 건의 소셜 미디어 게시물을 분석한 연구에 따르면, 러시아 정부는 여러 공작원을 통해 미국 선거 과정에 대한 허위 정보를 유포하여 선거를 방해하려 한 것으로 나타났습니다. 이 연구는 특히 많은 사람들이 러시아의 트롤 공장으로 여기는 인터넷 리서치 에이전시(IRA)라는 단체가 이러한 캠페인을 주도한 것으로dent.

콘텐츠 생성을 손쉽게 만들어주는 생성형 AI 기술의 등장으로 이번 선거에서 영향력 행사 캠페인에 이러한 기술이 많이 악용될 것이라는 우려가 제기되고 있습니다. 실제로 여러 보안 전문가들이 이러한 기술의 활용 사례를 일부dent했으며, 정치 후보들조차 서로를 AI 사용 의혹으로 몰아가고 있습니다.