OpenAI는 가짜 싱크탱크를 홍보하는 러시아 연계 ChatGPT 계정을 차단했습니다

OpenAI는 러시아와 연관된 ChatGPT 계정 네트워크를 폐쇄했습니다.

해당 계정들은 챗봇을 이용해 프랜시스 후쿠야마와 노암 촘스키를 기고자로 내세운 가짜 "전문가 커뮤니티"를 만들었다고 회사 측은 수요일에 밝혔습니다.

36개 기사 중 34개는 다른 곳에서 가져온 것입니다

해당 계정들은 국제 버크 연구소(IBI)를 홍보하기 위해 만들어졌습니다. 이 단체는 이스라엘에 본부를 두고 있으며 저명한 학자들이 근무한다고 주장했습니다.

OpenAI의 보고서에 따르면 해당 웹사이트는 2025년 2월에 개설되었으며, 7월 중순까지 공개된 명단에는 후쿠야마 아키노 와 촘스키를 비롯한 저명한 학자들이 포함되어 있었습니다.

OpenAI의 조사관들은 2025년 9월부터 2026년 5월 사이에 IBI의 소위 전문가들이 작성한 것으로 알려진 기사 36개를 표본으로 조사한 결과, 그중 34개가 다른 곳에서 가져온 것임을 발견했습니다.

중국-파키스탄 경제 회랑에 관한 기사가 있었는데, 이 기사는 브래드퍼드 대학교의 유나스 사마드가 케임브리지 대학교 출판부에서 출간한 글을 IBI가 노팅엄 대학교의 남아시아 정치학자 캐서린 아데니의 필명으로 게재한 것이었다.

이민정책연구소(Migration Policy Institute)에 호주 식품과학과 교수의 이름으로 이민 거버넌스에 관한 논문이 게재되었습니다.

계정 관리자들은 러시아어로 프롬프트를 입력했지만 대부분 영어로 출력해달라고 요청했습니다. OpenAI는 이들이 모델에게 텍스트 작성자가 러시아어 사용자임을 나타내는 언어적 단서를 제거하도록 지시했다는 사실을 발견했습니다.

해당 회사는 러시아 내에서의 접속을 차단했기 때문에 통신 사업자들은 VPN을 사용하여 서비스에 접속했습니다.

ChatGPT가 만들어낸 것은 소셜 미디어 콘텐츠를 채우는 데 그쳤다. 게시물과 댓글은 독자들을 X, LinkedIn, Facebook, Substack, Telegram 등 다양한 플랫폼의 IBI 기사로 유도했다.

일부는 IBI 이름과 로고가 있는 프로필이었고, 다른 일부는 일반 사용자처럼 위장하여 피드에 IBI 링크만 잔뜩 올려놓은 계정이었습니다.

해당 계정들은 서브스택의 관련 없는 게시물에도 댓글을 달았는데, 각각의 댓글에서 독자들에게 IBI 채널을 팔로우하라고 권유했습니다.

독일어 단어 하나가 잘못 번역되어 그 비밀이 드러났습니다

오픈아이디는 이번 작전의 범위는 작지만, 우크라이나 전쟁 발발 이후 자사가 해체해 온 러시아 연계 작전보다 훨씬 더 복잡하다고 밝혔습니다.

러시아를 칭찬하고 서방 정부를 비판하는 "주권 지수"가 핵심이었다.

독일에 관한 한 기사에서는 신호등을 뜻하는 슬라브어 단어를 사용하여 "스베토포르 연합"이라고 언급했는데, 원어민이라면 "신호등 연합"이라고 했을 것이다

OpenAI는 보고서에서 이를 슬라브어 원문을 단어 하나하나까지 기계 번역한 것으로 해석했다고 밝혔습니다.

또 다른 독일 텔레그램 채널인 "라흐메 엔테"(무능한 정부)는 우크라이나, 유럽연합, 베를린을 공격하는 게시물을 올리고 모스크바와의 관계 개선을 촉구했습니다.

연결된 텔레그램 채널 중 일부는 팔로워가 2만 명에 달했지만, 개별 게시물의 조회수는 저조했습니다.

지난 2월, Cryptopolitan 한 공무원이 ChatGPT를 업무 일지처럼 사용한 사실이 드러나면서 중국의 영향력 공작이 발각되었다고 보도했습니다.

OpenAI는 국가 차원의 행위자들이 새로운 공격이 아닌 일상적인 작업에 모델을 사용하는 것을 반복적으로 목격해 왔습니다

2024년에는 모스크바를 찬양하고 우크라이나와 나토를 공격하는 게시물을 올리는 또 다른 러시아 연계 네트워크인 도플갱어를 차단했습니다.