AI 챗봇과 새로운 TV 방송국의 부상은 향후 선거에 상당한 영향을 미칠 수 있습니다

AI 챗봇의 부상과 새로운 TV 방송국의 등장은 향후 선거에 미칠 잠재적 영향에 대해 중대한 우려를 제기했습니다. 활동가들과 심지어 적대적 국가들은 생성형 AI 기술을 이용하여 영국 선거의 결과에 영향을 미칠 수 있습니다. 인공지능 챗봇의 지수적 성장과 함께, 이러한 봇들이 생성한 오보에 기반한 투표 수가 증가하는 것은 경계할 만한 일입니다. 또한 자연어 처리 도구로 생성된 허위 이미지와 음성 모방은 유권자를 기만하여 거짓된 전제 하에 후보자를 선택하도록 할 수 있습니다. 

오정보의 위협

생성형 AI 기술은 뉴스와 정보의 무결성에 대한 시급한 위협을 제기합니다. 다양한 주제에 대해 진정성 있는 텍스트를 생성할 수 있는 능력은 ChatGPT와 같은 애플리케이션의 급속한 성장을 이끌었으며, 출시 두 달 만에 1억 명 이상의 사용자를 확보했습니다. 뉴스 출처의 신뢰도를 분석하는 조직인 뉴스가드는 5월에 49개의 AI 작성 뉴스 및 정보 사이트를 식별했으며, 최신 집계에서는 217개로 급증했습니다. AI 생성 '뉴스' 기사의 방대한 양은 오정보의 확산에 대한 우려를 제기합니다.

AI 생성 허위 이미지와 음성 모방의 사용은 또 다른 우려의 층을 추가합니다. 최근 사례로는 미국 국방부 밖의 폭발을 묘사한 AI 생성 가짜 이미지의 유포와 공화당 대통령 후보 론 데산티스 캠프가 경쟁자를 비방하기 위해 AI 생성 허위 이미지를 사용했다고 인정한 사건이 있습니다. 또한 마이크로소프트의 AI 도구는 단 3초의 샘플 오디오만으로 사람의 음성을 복제할 수 있어, 진실과 기만의 경계를 더욱 흐릿하게 만듭니다.

새로운 TV 뉴스 방송국의 역할

다음 영국 선거는 영국 최연소 TV 뉴스 방송국인 GB 뉴스와 토크 TV의 참여를 목격할 첫 번째 선거가 될 것입니다. 논란의 여지가 있지만, 두 채널 모두 의원을 호스트로 내세워 정치적 중립성의 한계를 넘나듭니다. 이러한 채널들이 공식 선거 토론에서 어떤 역할을 할지에 대한 우려가 있습니다. 이러한 새로운 방송국들이 선거 주기 동안 여론을 형성하려는 가운데, 편견 없는 뉴스의 필요성은 더욱 중요해집니다.

ITN의 최고 경영자 레이철 코프는 생성형 AI가 사실적 정보에 제기하는 시급한 위협을 강조했습니다. 코프는 이 기술이 초래할 잠재적 피해를 다루기 위해 작업 그룹을 설립하는 것을 제안하며 긴급한 정부 개입을 촉구했습니다. 그녀는 생성형 AI의 생산성이 신뢰할 수 있는 뉴스 방송국을 압도하여 사람들이 제시된 정보에 대한 신뢰를 잃을 수 있다고 경고합니다. AI 생성 콘텐츠의 홍수는 정보 과부하의 위험을 초래하여 뉴스 출처에 대한 대중의 신뢰를 침식할 수 있습니다.

선거 당일 오정보

제기된 주요 우려 중 하나는 선거 당일 공공 서비스 방송사(PSB)가 선거 당일 정한 보도 자제 기간(purdah)으로 인해 정치 보도를 자제하는 동안 AI 생성 오정보가 확산될 가능성입니다. 이는 PSB들이 제공하는 일반적인 대응 수단이 없는 환경에서 오정보가 유포될 수 있게 합니다. 진화하는 미디어 환경을 고려할 때 purdah 정책의 효과성과 관련성을 재평가해야 합니다.

영국의 정당들은 선거 자료에 AI 기술을 배포하는 데 신중해 왔습니다. 모금 이메일과 같은 일상적인 작업은 AI 기반 봇에 맡길 수 있지만, 더 중요한 캠페인 활동에 의존하는 데에는 여전히 주저함이 있습니다. AI 봇이 가진 문화적 이해와 지역 지식의 부족은 표를 잃는 실수로 이어질 수 있습니다. 정당은 유권자 기반을alienate하고 의도치 않게 캠페인을 훼손하는 것을 피하기 위해 신중함을 우선시합니다.

생성형 AI 기술은 활동가 및 심지어 rogue 국가들이 영국 선거에 영향을 미칠 수 있는 기회를 제공합니다. Twitter와 같은 소셜 미디어 플랫폼에서는 정치 후보를 겨냥한 무례한 담론과 괴롭힘이 급증할 수 있습니다. 이러한 의제를 추구하는 사람들에게 상당한 결과가 없으면 문제가 더욱 악화될 수 있습니다. Ofcom과 같은 규제 기관은 주요 방송사가 정치적 담론을 위한 중립적인 플랫폼을 계속 제공하도록 보장하면서 선거 토론을 호스팅하는 새로운 TV 뉴스 채널의 영향을 신중하게 고려해야 합니다.

AI 챗봇의 지수적 성장과 새로운 TV 방송국의 등장은 미래 선거에 중대한 영향을 미칩니다. 생성형 AI를 통한 허위 정보의 확산은 사실적 정보의 흐름에 심각한 위협이 됩니다. AI 도구가 생성한 허위 이미지와 음성 모방의 잠재적 영향은 문제를 더욱 복잡하게 만듭니다. 편향되지 않은 뉴스 출처가 진화하는 기술의 영향을 상쇄하기 위해 신뢰할 수 있는 정보를 제공하는 데 확고히 서 있는 것이 중요합니다. 규제 기관과 정부는 민주적 과정의 무결성을 보호하고 선거 캠페인에서 정보의 신뢰성을 보장하기 위해 이러한 우려에 신속하게 대응해야 합니다.