AI 생성 가짜 뉴스 웹사이트 713개로 증가하며 우려 고조

기이한 발견으로, 허위 정보와 맞서 싸우는 플랫폼인 NewsGuard는 AI 생성 콘텐츠를 사용하여 가짜 뉴스를 유포하는 웹사이트의 급증을 보고했다. 2월 22일 기준, 그 수는 놀라운 713개로 늘어났으며, 인터넷상 오정보의 확산에 대한 우려를 자아내고 있다.

NewsGuard의 'AI 지원 오정보 추적' 보고서는 대부분의 웹사이트가 거의 또는 전혀 인간의 감독 없이 운영되며, 인공지능이 생성한 콘텐츠만 게시하는 우려할 만한 트렌드를 강조한다. 이러한 출판물은 특정 언어에 국한되지 않으며, 보고서는 아랍어, 중국어, 네덜란드어, 영어, 프랑스어, 독일어, 이탈리아어, 한국어, 스페인어 등 15개 언어로 식별했다.

이 급증은 5월의 50개 미만 AI 생성 사이트에서 2023년 12월의 약 600개로 증가한 것과 비교하여, 단 6개월 만에 10배 이상 증가한 것을 보여준다. 이러한 웹사이트는 종종 소비자를 기만하여 기존 뉴스 기관으로 인식하게 할 수 있는 일반적인 이름을 채택하며, 인간의 감독이 없고 AI 생성 콘텐츠에 크게 의존한다는 사실을 숨긴다.

오정보의 내용과 확산

AI 생성 뉴스 기사는 정치, 기술, 엔터테인먼트, 여행 등 다양한 주제를 다룬다. 때때로 수백 건에 달하는 이러한 일반적인 기사에는 허위 주장이 포함되어 있는 것으로 발견되었다. 예시로는 정치 지도자에 대한 오정보와 유명인 사망 가짜 뉴스, 그리고 fabricated된 사건과 과거 사건을 최근 발생한 것처럼 제시하는 것이 있다.

NewsGuard는 이러한 사이트가 허위 정보를 유포할 뿐만 아니라, 거대한 규모로 그렇게 하며, AI 생성 콘텐츠를 조작하여 신뢰성의 외관을 만들어낸다고 강조한다. 이는 청중에게 상당한 과제를 제기하며, 진정으로 큐레이션된 뉴스와 봇에 의해 완전히 생성된 콘텐츠를 구분하는 것이 필수적임을 시사한다.

보고서는 이러한 신뢰할 수 없는 AI 생성 뉴스 사이트를 구동하는 수익 모델을 조명하며, 많은 사이트가 프로그램matic 광고에 의존하고 있음을 나타낸다. 이 모델에서 ad-tech 산업은 웹사이트의 성격이나 품질을 고려하지 않고 광고를 제공하며, 우연히 상위 브랜드를 홍보함으로써 이러한 사이트를 지원한다. NewsGuard는 브랜드가 신뢰할 수 없는 사이트를 제외하기 위한 선제적 조치를 취하지 않는 한, 그들의 광고가 허위 정보를 생성하는 플랫폼에 계속 표시되어 대규모 생성에 대한 경제적 인센티브를 무의식적으로 부추길 것이라고 경고한다.

경고할 만한 발전으로, NewsGuard는 중국 정부 운영 웹사이트가 AI 생성 텍스트를 사용하여 허위 주장을 유포하는 것을 식별했다. 이 웹사이트는 미국이 카자흐스탄에서 생물무기 실험실을 운영하여 낙타를 감염시켜 중국 사람들에게 위험을 초래한다고 주장한다. 이 발견은 AI 생성 오정보의 지정학적 함의와 허위 서사의 확산을 막기 위한 국제 협력의 필요성을 강조한다.

행동과 책임에 대한 긴급한 필요

AI 생성 가짜 뉴스 웹사이트의 급증은 신뢰할 수 있는 정보에 대한 증가하는 위협에 대응하기 위해 플랫폼, 정부 및 기술 기업으로부터 집단적 행동의 긴급성을 강조한다. 이 상황은 대중의 인식에 영향을 미치고 미디어에 대한 신뢰를 침식하는 데 기여할 잠재력을 가진 신속한 대응을 요구한다.

브랜드들이 프로그램matic 광고를 통해 이러한 사이트들을 우연히 지원하면서, 광고 게재에 대한 경계 강화가 요구되고 있습니다. 브랜드는 신뢰할 수 없는 사이트를 배제하여 광고가 허위 정보와 함께 표시되지 않도록 조치를 취해야 합니다. 이를 이행하지 않으면, 이러한 사이트 생성에 대한 경제적 인센티브를 더 큰 규모로 영속화할 위험이 있습니다.

AI 생성 가짜 뉴스 웹사이트의 증가는 즉각적인 주의가 필요한 시급한 문제입니다. 기술 기업, 정부, 책임감 있는 광고 관행 간의 협력은 오보의 확산을 완화하고 온라인 정보원의 무결성을 보존하는 데 필수적입니다. 디지털 영역에서의 가짜 뉴스와의 싸움은 오해의 소지가 있는 정보로 인한 해로운 결과로부터 대중을 보호하기 위한 결집된 노력이 필요합니다.