OpenAI는 미국 대선 영향력 행사 캠페인을 벌인 이란 단체의 ChatGPT 계정을 폐쇄했습니다

OpenAI는 이란의 영향력 공작과 연관된 ChatGPT 계정들을 차단하는 단호한 조치를 취했습니다. 회사 측은 블로그 게시물을 통해 해당 계정들이 미국dent과 관련된 AI 기반 콘텐츠를 게시했다고 설명했습니다. 기사와 소셜 미디어 게시물을 포함한 이 공작은 규모가 비교적 작았던 것으로 보입니다. 

국가 연계 세력이 오픈아이얼의 챗GPT를 악용하려 한 것은 이번이 처음이 아닙니다. 지난 5월, 오픈아이얼은 AI 봇을 이용해 가짜 언론 기사를 게시해 여론에 영향을 미치려는 다섯 차례의 시도를 차단했습니다. 이러한 시도는 국가 기관들이 새로운 기술을 이용해 정치 과정에 개입하려는 광범위한 양상의 일부입니다. 

OpenAI는 새롭게 나타나는 위협에 신속하게 대응합니다

과거에는 이러한 단체들이 페이스북과 트위터를 주요 소셜 미디어 플랫폼으로 활용했습니다. 그러나 이제는 생성형 AI를 이용해 소셜 미디어 플랫폼을 가짜 정보로 도배하는 사례가 늘고 있습니다. 대응하여 오픈AI는 소셜 미디어 플랫폼에서 흔히 볼 수 있는 '두더지 잡기' 전략처럼 신속하게 대응하고 있습니다. 관련 계정이 드러나면 즉시 차단하는 것입니다. 이는 2024년 미국 대선이dent시점에서 매우 중요한 조치입니다. 

OpenAI의 최근 계정 분석은 지난주에 발표된 마이크로소프트 위협 인텔리전스 보고서를 기반으로 합니다. 해당 보고서는 이러한 작전을 후원하는 그룹을 Storm-2035 그룹으로 지목했으며, 이 그룹은 2020년부터 미국 대선 개입에 관여해 왔습니다. 

스톰-2035는 실제 뉴스 웹사이트처럼 보이는 여러 도메인을 운영하는 이란 네트워크로 알려져 있습니다. 이 사이트들은 미국 유권자를 대상으로dent후보, 동성애자 인권, 이스라엘-하마스 분쟁과 관련된 극단적인 내용을 유포합니다. 

ChatGPT는 다양한 정치적 주제에 대해 극단적인 논쟁을 불러일으키는 콘텐츠를 생성합니다

다른 유사한 작전들과 마찬가지로, Storm-2035의 목적은 특정 정책을 지지하는 것이 아니라 대중 사이에 논란을 일으키는 것이었습니다. OpenAI에 따르면, 이 그룹은 진보 및 보수 뉴스 사이트로 위장한 5개의 웹사이트와 연관되어 있었습니다. 

이 사이트들은 "evenpolitics.com"과 같은 좋은 도메인 이름을 가지고 있었고, ChatGPT를 사용하여 특정 길이의 기사를 작성했습니다. 이 기사들 중 하나는 일론 머스크가 소유한 소셜 미디어 네트워크인 X가 도널드 트럼프 전 미국dent의 트윗을 차단하고 있다고 주장했습니다. 

OpenAI는 Storm-2035와 연관된 X 계정 12개와 인스타그램 계정 1개를dent. 이 계정들은 ChatGPT를 사용하여 새로운 정치적 발언을 생성한 후 소셜 미디어 채널에 게시했습니다. 예를 들어, 한 트윗은 기후 변화가 '이민 비용 증가'와 관련이 있다는 허위 주장을 담고 있었으며, 카말라 해리스dent 겨냥한 #DumpKamala라는 해시태그를 달았습니다.