OpenAI는 중국 단체들이 ChatGPT를 악용하는 사례가 증가하고 있다고 보고했습니다

OpenAI는 자사 도구의 은밀한 사용이 급증하고 있으며, 특히 중국 단체들이 악의적인 목적으로 ChatGPT 플랫폼을 악용하고 있다고 밝혔습니다.

ChatGPT는 2022년 11월 출시 이후 즉각적인 성공을 거두었지만, 사람과 유사한 음성, 텍스트, 이미지 및 비디오를 생성하는 능력으로 인해 잠재적인 부작용에 대한 우려가 제기되어 왔습니다. OpenAI는 웹사이트용 가짜 콘텐츠와 같은 플랫폼상의 악의적인 활동에 대한 보고서를 정기적으로 발표해 왔습니다.

OpenAI는 자사 도구를 악용한 10건의 개별 캠페인을 적발했습니다

목요일에 발표된 보고서에서 샌프란시스코에 본사를 둔 해당 업체는 최근 자사의 AI 도구를 악용한 10건의 개별 캠페인을 적발했다고 밝혔습니다. 이 중 4건은 중국과 연관된 단체가 조직했으며, 나머지 소규모 캠페인은 다른 국가들과 연관되어 있었습니다.

따르면 벤 님모에, 중국과 연계된 이 조직들은 여러 온라인 플랫폼에서 광범위한 전술을 사용했습니다.

그는 기자들에게 "우리는 점점 더 다양해지는 도구들을 관찰하고 있다"고 말했다.

"일부 캠페인은 영향력 행사, 사회 공학 및 감시를 결합했으며, 틱톡과 X부터 레딧과 페이스북에 이르기까지 다양한 플랫폼에 걸쳐 진행되었습니다."

님모.

대표적인 사례 중 하나인 "스니어 리뷰(Sneer Review)"는 ChatGPT를 활용하여 영어, 중국어, 우르두어로 짧은 게시물과 댓글을 올렸습니다. 이 게시물들은 미국 국제개발처(USAID) 해체와 같은 주제를 다루며, 해당 결정에 대한 찬반 의견이 엇갈렸고, 대만 전략 비디오 게임이 중국 집권당을 공격한다는 비판도 제기되었습니다.

OpenAI의 보고서에 따르면, 대부분의 경우 해당 단체는 원본 게시물뿐만 아니라 답글까지 작성하여 마치 "진짜" 토론처럼 보이게 했습니다. 또한 이들은 게임에 대한 대중의 거센 반발이 있다는 내용의 장문의 기사도 작성했습니다.

"비웃음 검토(Sneer Review)"에서는 ChatGPT를 활용하여 내부 문서와 성과 평가서를 작성하고 캠페인 실행의 모든 ​​단계를 상세하게 기록했습니다. OpenAI의 분석가들은 실제 소셜 미디어 행동이 이러한 자체 평가와 매우 유사하다는 것을 발견했으며, 이는 AI가 최전선 영향력 행사와 백오피스 관리 모두를 효율화할 수 있음을 보여줍니다.

보고서에 따르면 중국과 연계된 또 다른 네트워크는 언론인과 지정학 평론가를 사칭하여 정보 수집에 집중했습니다. 이들은 챗봇을 이용해 X 플랫폼에 계정 소개글을 작성하고, 중국어와 영어 간의 소통을 번역했으며, 심지어 연방 후보 지명과 관련하여 미국 상원의원에게 보내는 메시지까지 작성했습니다.

다른 국가의 단체들도 OpenAI의 도구를 악용했습니다

보고서는 중국의 활동 외에도 러시아와 이란의 행위자들도 선거 관련 영향력 행사를 위해 ChatGPT를 사용하려 했다고 지적하며, 생성형 AI가 여론 형성에 미치는 역할에 대한 우려를 재조명하고 있다.

필리핀에서는 한 상업 마케팅 업체가 스팸 캠페인에 연루되었으며, 캄보디아와 연관된 채용 사기 사건도 드러났습니다. 또한, 북한과 관련된 또 다른 고용 계획도 적발되었습니다.

이러한 위협들은 모두 지난 2월 오픈아이얼이 중국과 연계된 감시 활동을 발견했다는 보고서와 시기적으로 일치합니다. 이 감시 활동은 서방 시위를 실시간으로 감시하고 중국 보안 기관에 요약 정보를 제공했으며, ChatGPT는 코드 디버깅부터 감시 소프트웨어 판매 제안서 작성까지 모든 작업을 지원한 것으로 알려졌습니다.

님모는 이러한 작전 대부분이 정교한 도구를 사용한 것으로 보이지만, 적발되어 저지되었다고 밝혔습니다.

그는 "고도의 AI가 반드시 더 효과적인 결과로 이어지는 것은 아니다"라고 지적했다. 실제로 OpenAI의 정기적인 위협 보고서에 따르면 생성형 모델은 콘텐츠 제작 속도를 높일 수는 있지만 진정한 영향력이나 광범위한 trac을 보장하지는 않는다.

이러한 조사 결과에 따라 OpenAI는 모니터링 및 제재 메커니즘을 지속적으로 개선해 왔습니다. OpenAI는 적발된 활동과 연관된 계정을 차단하고, 악성 소프트웨어 제작, 자동화된 정치적 메시지 전송 또는 허위 콘텐츠 유포에 관여한 모든 계정을 삭제합니다.

최근 오픈아이얼은 중국과 관련된 지정학적 논란을 제기한 계정들을 삭제했는데, 여기에는 파키스탄 활동가들에 대한 허위 주장과 트럼프의 관세 정책에 대한 논평이 포함됩니다.

오픈아이(OpenAI)는 여러 성공을 거두었음에도 불구하고, 생성형 인공지능이 혁신의 도구인 동시에 허위 정보 유포의 도구로도 사용될 수 있다는 양날의 검과 같은 특성을 지니고 있음을 인정합니다.