OpenAI의 보고서에는 해당 모델이 선거에 영향을 미치는 데 사용되고 있다고 명시되어 있습니다. 또한 이러한 악의적인 활동을 수행하기 위해 AI 모델을 사용하는 20개 이상의 작업을 중단했다고 밝혔습니다.
OpenAI 보고서인 "AI의 기만적인 사용을 방해하는 업데이트"에서는 정치적 콘텐츠에 참여할 때 경계가 필요함을 강조했습니다.
이 문서는 OpenAI의 모델이 선거를 방해하고 정치적 잘못된 정보를 퍼뜨리는 주요 도구가 되는 추세를 보여주었습니다. 종종 국가의 후원을 받는 악의적인 행위자는 소셜 미디어에서 가짜 페르소나를 위한 콘텐츠 생성 및 악성 코드 리버스 엔지니어링을 포함한 다양한 활동에 이러한 AI 모델을 사용합니다.
AI 선거와 정치에서 OpenAI의 영향력 증가
8월 말, OpenAI는 미국 선거, 베네수엘라 정치, 가자 분쟁, 이스라엘에서 여론을 좌우하기 위해 소셜 미디어 콘텐츠를 제작하는 이란 캠페인을 이후 금지된 일부 계정에도 르완다 선거에 대한 게시물이 게시된 것으로 알려졌습니다.
또한 이스라엘 회사가 인도의 여론 조사 결과를 조작하려는 시도에도 연루된 것으로 나타났습니다.
그러나 OpenAI는 이러한 활동이 입소문을 타거나 상당한 청중을 확보하지 못했다고 지적했습니다. 이러한 캠페인과 관련된 소셜 미디어 게시물은 최소한 trac을 얻었습니다. 이는 AI 기반의 잘못된 정보 캠페인을 통해 여론을 움직이는 것이 어렵다는 것을 나타낼 수 있습니다.
역사적으로 정치 캠페인은 대개 출마 측의 잘못된 정보에 의해 촉진되었습니다. 그러나 AI의 출현은 정치 시스템의 무결성에 대해 다른 위협을 제시합니다. 세계경제포럼 (WEF)은 2024년이 역사적인 선거의 해로 50개국이 선거를 치른다고 밝혔습니다.
일상적으로 사용되는 LLM은 이미 잘못된 정보를 더 빠르고 더 확실하게 생성하고 전파하는 기능을 갖추고 있습니다.
규제 및 협력 노력
이러한 잠재적인 위협에 대응하여 OpenAI는 위협 인텔리전스를 공유하여 관련 이해관계자와 협력하고 있다고 밝혔습니다. 특히 정치적 맥락에서 잘못된 정보 채널을 단속하고 윤리적인 AI 사용을 장려하는 데 이러한 협력적 접근 방식이 충분할 것으로 기대합니다.
OpenAI는 "이번 작업으로 인해 의미 있는 청중 참여가 부족함에도 불구하고 우리는 외국 영향력 작업에서 우리 서비스를 사용하려는 모든 노력을 진지하게 받아들입니다."라고 보고합니다.
AI 회사는 또한 AI를 사용하여 기만적이고 파괴적인 온라인 캠페인을 만드는 국가 후원 사이버 공격자를 방지하기 위해 강력한 보안 방어 장치를 구축해야 한다고 강조했습니다.
WEF는 또한 “상호 운용 가능한 표준 및 기본 규제 요구 사항에 대한 국제 협약은 혁신을 활성화하고 AI 안전을 향상시키는 데 중요한 역할을 할 것”이라며 AI 규정 제정의 필요성을 강조했습니다.
효과적인 프레임워크를 개발하려면 OpenAI와 같은 기술 기업, 공공 부문, 민간 이해관계자 간의 전략적 파트너십이 필요하며, 이는 윤리적인 AI 시스템을 구현하는 데 도움이 됩니다.
크립토 폴리탄 아카데미 : 시장 스윙에 지쳤습니까? DeFi 어떻게 도움이되는지 알아보십시오. 지금 등록하십시오
