인공지능이 선거 조작에 이용되고 있다는 우려가 제기되고 있다고 오픈AI가 경고했습니다

오픈아이(OpenAI)의 보고서에 따르면 자사 모델이 선거에 영향을 미치는 데 사용되고 있다고 합니다. 또한, 자사 AI 모델을 이용해 악의적인 활동을 벌이던 20개 이상의 조직을 적발했다고 밝혔습니다. 

오픈아이얼 보고서인"인공지능의 기만적 사용을 차단하는 최신 정보"에서도 정치적 콘텐츠를 접할 때 경계심을 가져야 할 필요성을 강조했습니다.

해당 문서는 오픈아이디(OpenAI) 모델이 선거를 방해하고 정치적 허위 정보를 유포하는 주요 도구로 사용되는 추세를 보여주었습니다. 국가의 지원을 받는 경우가 많은 악의적인 행위자들은 이러한 AI 모델을 소셜 미디어의 가짜 계정 콘텐츠 생성 및 악성코드 역분석을 포함한 다양한 활동에 활용하고 있습니다.

OpenAI의 AI 선거 및 정치 분야에서의 영향력 확대

8월 말, 오픈아이디는 이란의 활동을 . 오픈아이디는 이후 차단된 일부 계정들이 르완다 선거에 대한 게시물도 올렸다고 보고했습니다. 

또한 이스라엘의 한 회사도 인도의 선거 결과를 조작하려 시도한 것으로 드러났습니다. 

하지만 OpenAI는 이러한 활동들이 입소문을 타거나 상당한 지지층을 확보하지 못했다고 지적했습니다. 이러한 캠페인과 관련된 소셜 미디어 게시물은 거의 trac을 끌지 못했습니다. 이는 AI 기반 허위 정보 캠페인을 통해 여론을 움직이는 것이 얼마나 어려운지를 보여주는 것일 수 있습니다. 

역사적으로 정치 캠페인은 대개 후보 측의 허위 정보에 의해 촉발되어 왔습니다. 그러나 인공지능(AI)의 등장은 정치 시스템의 공정성에 또 다른 위협을 가하고 있습니다. 세계경제포럼 (WEF)은 2024년이 50개국에서 선거가 치러지는 역사적인 해가 될 것이라고 밝혔습니다.  

일상적으로 사용되는 LLM(언어 변조 도구)은 이미 더 빠르고 설득력 있게 허위 정보를 만들어 퍼뜨릴 수 있는 능력을 갖추고 있습니다.

규제 및 협력적 노력

이러한 잠재적 위협에 대응하여 OpenAI는 관련 이해관계자들과 위협 정보를 공유하며 협력하고 있다고 밝혔습니다. OpenAI는 이러한 협력적 접근 방식이 특히 정치적 맥락에서 허위 정보 유포 경로를 차단하고 윤리적인 AI 사용을 촉진하는 데 충분할 것으로 기대한다고 덧붙였습니다. 

OpenAI는 "이번 작전으로 인해 의미 있는 청중 참여가 이루어지지 않았음에도 불구하고, 당사는 해외 영향력 행사 작전에 당사 서비스를 이용하려는 모든 시도를 심각하게 받아들입니다."라고 밝혔습니다 

해당 AI 기업은 또한 국가 지원 사이버 공격자들이 AI를 이용해 기만적이고 파괴적인 온라인 캠페인을 벌이는 것을 막기 위해 강력한 보안 방어 체계를 구축해야 한다고 강조했습니다. 

세계경제포럼(WEF)은 또한 인공지능 규제 마련의 필요성을 강조하며, "상호 운용 가능한 표준 및 기본 규제 요건에 대한 국제 협약은 혁신을 가능하게 하고 인공지능의 안전성을 향상시키는 데 중요한 역할을 할 것"이라고 밝혔습니다 

효과적인 프레임워크를 개발하려면 OpenAI와 같은 기술 기업, 공공 부문, 그리고 민간 이해관계자 간의 전략적 파트너십이 필요하며, 이러한 파트너십을 통해 윤리적인 AI 시스템을 구현할 수 있을 것입니다.