인공지능이 선거를 조작하는 데 사용되고 있음, OpenAI가 경계 촉구

OpenAI의 보고서에 따르면 그 모델들이 선거에 영향을 미치는 데 사용되고 있습니다. 또한 OpenAI는 이러한 악의적인 활동을 수행하기 위해 자체 AI 모델에 의존한 20개 이상의 운영을 차단했다고 밝혔습니다. 

OpenAI의 보고서, “AI의 기만적 사용 방해에 대한 업데이트”에서도 정치적 콘텐츠와 상호작용할 때 경계심이 필요함을 강조했습니다.

해당 문서는 OpenAI의 모델이 선거를 방해하고 정치적 허위 정보를 확산시키는 주요 도구로 사용되는 추세를 보여주었습니다. 종종 국가 지원을 받는 악의적 행위자들은 이러한 AI 모델을 소셜 미디어의 가짜 페르소나를 위한 콘텐츠 생성 및 멀웨어 역공학 등 다양한 활동에 사용합니다.

선거 및 정치 분야에서 OpenAI의 영향력 확대

8월 말, OpenAI는 이란의 캠페인을 차단했으며 이는 미국 선거, 베네수엘라 정치, 가자 분쟁 및 이스라엘 관련 여론을 호도하기 위한 소셜 미디어 콘텐츠를 생산하고 있었습니다. OpenAI는 이후 차단된 일부 계정이 르완다 선거 관련 콘텐츠도 게시하고 있다고 보고했습니다. 

또한 이스라엘의 한 회사가 인도에서 여론 조사 결과를 조작하려는 시도에 연루되어 있는 것도 발견되었습니다. 

하지만 OpenAI는 이러한 활동이 바이럴되거나 상당한 청중을 확보하지는 못했다고 지적했습니다. 이러한 캠페인과 관련된 소셜 미디어 게시물은 거의 주목을 받지 못했습니다. 이는 AI 기반 허위 정보 캠페인을 통해 여론을 호도하는 것이 어렵다는 것을 시사할 수 있습니다. 

역사적으로 정치 캠페인은 주로 후보 측으로부터의 허위 정보에 의해 추진되어 왔습니다. 그러나 AI의 등장은 정치 시스템의 무결성에 대해 다른 유형의 위협을 제시합니다. 세계경제포럼 (WEF)은 2024년이 선거의 역사적 해라고 명시했으며, 50개국에서 선거가 치러질 것이라고 밝혔습니다.  

일상적으로 사용되는 대규모 언어 모델(LLM)은 이미 허위 정보를 더 빠르고 설득력 있게 생성하고 확산할 수 있는 능력을 갖추고 있습니다.

규제 및 협력 노력

이러한 잠재적 위협에 대응하여 오픈AI는 관련 이해관계자와 협력하여 위협 인텔리전스를 공유하고 있다고 밝혔습니다. 오픈AI는 이러한 협력적 접근 방식이 허위 정보 채널을 단속하고 정치적 맥락에서 특히 윤리적 AI 사용을 촉진하는 데 충분할 것으로 기대합니다. 

오픈AI는 보고서를 통해 “이 작업으로 인해 의미 있는 청중 참여가 부족했음에도 불구하고, 당사 서비스를 외국 영향력 행사에 사용하는 모든 노력을 심각하게 받아들이고 있습니다.”라고 밝혔습니다. 

해당 AI 기업은 또한 국가 지원 사이버 공격자가 AI를 사용하여 기만적이고 파괴적인 온라인 캠페인을 만드는 것을 방지하기 위해 강력한 보안 방어 체계를 구축해야 한다고 강조했습니다. 

WEF은 또한 AI 규제를 마련할 필요성을 강조하며 “상호 운용 가능한 표준과 기본 규제 요구 사항에 대한 국제 협정은 혁신을 가능하게 하고 AI 안전성을 개선하는 데 중요한 역할을 할 것”이라고 말했습니다. 

효과적인 프레임워크를 개발하려면 오픈AI와 같은 기술 기업, 공공 부문, 민간 이해관계자 간의 전략적 파트너십이 필요하며, 이는 윤리적 AI 시스템 구현에 도움이 될 것입니다.