국가 해커, AI로 우위 확보 실패 - OpenAI 보고서

기술 기업 및 정부 관리들 유지하기 위해 인공지능이 외국 적대세력에게 위험한 무기가 될 수 있다고 경고하지만, 새로운 증거는 tells 다른 이야기를 전합니다. 최근 보고서에 따르면 국가 지원 그룹은 일반 인터넷 사용자와 동일한 공개 도구를 사용하며, 종종 그들 역시 어려움을 겪고 있는 것으로 나타났습니다.

OpenAI는 정부와 연계된 그룹이 tries 플랫폼을 사용한 방법을 최근 공유했습니다.

가장 주목할 만한 사례는 중국 영향력 캠페인이 우연히 노출된 경우입니다. 중국 법 집행 관이 ChatGPT를 개인 일기처럼 사용하면서 드러났습니다. 해당 관원은 다른 국가에 거주하는 중국인 비판자들을 대상으로 한 작전에 대해 기록했습니다.

이 캠페인에는 수백 명의 운영자와 수천 개의 가짜 소셜 미디어 계정이 according to OpenAI 관여했습니다.

이 작전은 반체제 인사를 협박하기 위해 미국 이민 관리사를 사칭하여 공개 발언이 미국 법률을 위반했다고 허위 주장했습니다. 다른 사례에서는 운영자가 군 법원 발행 문서라고 주장하는 위조 문서를 사용하여 비판자들의 소셜 미디어 계정이 삭제되도록 시도했습니다.

가짜 사망 기사 및 위조 문서, 협박 캠페인의 일부

그들은 한 반체제 인사 사망에 대한 허위 루머를 퍼뜨리기 위해 가짜 사망 기사와 묘지 사진을 생성했습니다. 이 루머는 실제로 2023년 온라인에 showed up했으며, 중국어版 미국 자유아시아방송(VOA) 기사가 이를 확인했습니다. OpenAI의 수석 조사관인 벤 님모는 called 이 시도를 rt industrialized harassment aimed at critics of the Chinese Communist Party through multiple channels로 규정했습니다.

ChatGPT를 기록 도구로 사용한 것이 작전을 노출시키는 결과를 낳았습니다. 운영자는 ChatGPT를 비공식 네트워크를 추적하는 일기처럼 사용했으며, 다른 도구들은 소셜 미디어를 통해 got 퍼진 실제 콘텐츠의 대부분을 생성했습니다. OpenAI는 이 활동을 finding 한 후 해당 사용자를 차단했습니다.

OpenAI 조사관들은 ChatGPT 사용자의 설명을 실제 온라인 활동과 일치시켰습니다. 사용자는 온라인 게시를 위해 가짜 사망 기사와 묘지 사진을 생성하여 중국 반체제 인사의 사망을 사칭했다고 설명했습니다.

다른 사례에서는 ChatGPT 사용자가incoming Japanese Prime Minister Sanae Takaichi의 명성을 훼손하기 위해 미국 관세에 대한 분노를 조장하는 계획을 수립해 달라고 요청했습니다. ChatGPT는 거부했습니다. But 10월 말 다카이치가 권력을 잡았을 때, 일본 그래픽 아티스트들이 그녀를 공격하고 관세를 불평하는 해시태그가 인기 포럼에 showed up했습니다.

OpenAI 보고서는 또한 캄보디아의 사기 운영 사례들을 다루었는데, 이는 로맨스 및 투자 사기에 플랫폼을 사용했으며, plus 아르헨티나와 아프리카를 겨냥한 러시아와 연계된 영향력 캠페인도 포함되었습니다.

마이크로소프트 보고서도 유사한 기본 사용 패턴을 보임

마이크로소프트는 OpenAI와 함께 러시아, North Korea, Iran, and China 등의 국가 행위자들이 사이버 공격 작전을 지원하기 위해 trying out 대형 언어 모델을 사용하는 방법을 조사한 별도 보고서를 발표했습니다. 두 회사는 5개 국가 연계 행위자의 계정을 차단하여 그들의 노력을 차단했습니다.

마이크로소프트 report found these actors mainly wanted to use services for simple jobs like searching publicly available information, translating content, fixing coding errors, and running basic programming tasks. No major or new attacks using the models have been found so far.

이 fear 와 reality happens during tough competition between Washington and Beijing over control of this technology. What role it plays in military and economic matters has become a major fight. The Pentagon recently told another company, Anthropic, it has until Friday to remove certain safety features from its model or risk losing a defense contract.

Microsoft said it’s working on principles to lower risks from bad use of these tools by nation-state groups and criminal organizations. These principles include finding and stopping bad users, telling other service providers, working with other groups, and being transparent.