인공지능을 활용하는 봇들이 소셜 미디어에 허위 정보를 쏟아내고 있다

인터넷에서는 거의 매달 아무런 노력 없이 벼락부자가 되는 새로운 아이디어들이 쏟아져 나옵니다. 많은 사람들이 AI 도구를 . 지역 뉴스 채널들은 앵커들의 영상을 게시하고, 외교부는 디지털 정보망을 구축하고 있습니다. 번역이나 문법 검사처럼 당연하게 여겨지는 서비스와는 달리, 이러한 기술들은 이제 우리 삶의 필수적인 요소가 되어 더 이상 AI와만 연관 짓기 어렵습니다.

인공지능 기반 봇 팜의 실체를 밝히다

또 다른 틈새시장은 완전히 새로운 콘텐츠를 처음부터 제작하는 것입니다. 제작 시간은 단 20분, 심지어 1분밖에 걸리지 않습니다. AI 플랫폼 전체를 활용하여 영상 제작(또는 도용된 영상 처리), 텍스트 및 오디오 trac작성, 연출, 설명 및 해시태그 추가까지 모든 작업을 단 몇 초 만에 완료할 수 있습니다.

이처럼 소셜 네트워크는 점차 인공지능 쓰레기통으로 전락하고, 사람들은 자신이 만든 홍보 영상이 인기를 얻어 수익을 창출할 수 있다는 생각에 만족감을 enj도 합니다. 혹은 러시아의 선전 메시지가 확산되어 해당 사안에 대한 지배적인 목소리가 되기도 합니다.

(AI)이 가짜 유튜버 팜에 대한 메시지를 전달하는 데 어떻게 기여하는지 봇 팜 . 이 봇 팜은 AI를 사용하여 러시아 또는 벨라루스 채널의 유튜브 영상을 처리하고 생성했습니다. 마리우폴 출신의 아나스타샤 코제브니코바는 현재 유명한 러시아 유튜버입니다. 그녀의 유튜브 채널 구독자 수는 19만 명에 불과하지만, 인터넷을 현명하게 활용하여 모국에서 억압받던 개인이 목소리를 낼 수 있는 좋은 예입니다. 그녀는 "러시아는 구세주"라는 러시아 선전 신화와 마리우폴의 재건이라는 이야기를 퍼뜨리는 데 큰 역할을 하며 명성을 얻었습니다.

그럼에도 불구하고, 그녀의 프로필을 보면 논의된 주제에 대한 정보가 부족하다는 것을 알게 됩니다. 그녀는 자신이 누구인지 소개하고 평소에 브이로그에서 다루는 내용에 대해서만 이야기합니다. 시청자는 커뮤니티에 이와 유사한 네트워크가 있다는 것을 어떻게 알 수 있을까요? 만약 그것이 엄청난 인기를 누리는 소셜 미디어 스타의 유튜브 채널 링크라면 어떨까요? 단체의 사명을 담은 사진이나 명함 같은 것도 충분히 가능할 것입니다. 더 자세한 정보와 명함 번호도 도움이 될 수 있겠죠. 하지만 구독을 유도하는 매력적인 문구가 부족합니다. 각 채널마다 특화된 콘텐츠가 있을 수 있지만, 이미 많은 채널들이 그러한 콘텐츠를 제공하고 있다는 것을 알게 되었습니다.

인공지능 허위 정보의 은밀한 확산

마찬가지로, 정교한 구글 검색은 동일한 설명을 가진 298개의 틱톡 채널dent메시지를 생성했습니다. 우연히도 그들의 삶에는 유사점이 있습니다. 이것이 바로 그들이 러시아어로 운영되는 인공 틱톡 팜에서 하나의 캠페인을 스캔하고 선택하기 시작한 방식입니다. 그들을 구분하는 유일한 차이점은 그들이 집중하는 주제입니다. 

"러시아 선전"이나 "제국주의 음모론"을 검색해 보면 그 종류는 엄청나게 다양합니다. 하지만 그 와중에도 요리 레시피, 정비 팁, 자동차 관련 영상, 어린이 만화, 블로거들의 글, 러시아의 묘지에 대한 이야기, 지역 고철 더미에서 보물을 찾는 이야기 등 온갖 종류의 콘텐츠가 넘쳐납니다. 이런 것들은 '오프라인 스타'라는 범주에 넣을 수밖에 없는데, 우리가 만나는 유일한 '종이 인형'들이기 때문입니다. 2022년 3월부터 최근까지 러시아에서는 미디어 활동이 제한적이었다는 점도 언급할 필요가 있습니다. 예를 들어, 가장 인기 있는 소셜 네트워크 중 하나인 틱톡은 불법으로 간주되었습니다.

발견된 해당 채널의 운영자에 대한 정보가 전혀 없다는 점은 다시 한번 불법 복제가 발생했음을 시사합니다. 5월 말까지 조회수가 1천만 회를 넘어설 것으로 예상됩니다. 해당 채널은 이미 6개월 동안 좋아요와 조회수를 꾸준히 기록해 왔습니다. 하지만 이러한 가상 세계에 깊이 빠져들수록 가짜 콘텐츠와 존재하지 않는 콘텐츠가 더욱 만연해질 것입니다. 러시아는 이러한 방식을 정보전에 활용할 것입니다. 러시아의 봇과 봇 팜은 소셜 미디어에서 인기 있는 메시지를 복제하고 퍼뜨리는 경향이 있어 소셜 미디어 알고리즘에 쉽게 포착됩니다.

활용하는 것은 AI 더 큰 과제를 제시할 것입니다. 이러한 움직임은 "인터넷의 죽은 공간을 날고 있다"는 슬로건을 내세운 반대 운동의 이름으로 주목받을 것입니다. 이 슬로건은 오늘날 온라인에는 진정한 사람이 없다는 주장을 담고 있습니다. 최근 연구에 따르면 작년 온라인 트래픽의 50% 이상이 봇에 의해 발생한 것으로 나타났습니다.