- AI는 오정보를 조장할 수 있지만 검출을 통해 이를 막을 수도 있습니다.
- 오정보 퇴치를 위해서는 기술과 미디어 간의 협력 노력이 필수적입니다.
- 검증을 위한 인간-AI 시너지에는 AI 도구와 인간의 노력이 모두 필요합니다.
오정보의 광범위한 확산은 인터넷으로 인해 악화되었으며, 소셜 미디어 플랫폼은 오정보의 온상이 되었습니다. 유로바로미터(Eurobarometer) 보고서에 따르면 EU 시민 28%가 가짜 뉴스의 피해자가 되었으며, 이는 언론의 자유가 제한된 국가에서 더욱 심화된 위기입니다. ChatGPT(텍스트용)와 MidJourney(이미지용)와 같은 생성형 AI 도구의 급속한 진화는 오정보 확산이 더욱 심화될 수 있다는 우려를 불러일으켰습니다. 베르겐 대학교의 로렌스 디어릭스(Laurence Dierickx)는 AI 생성 콘텐츠의 접근성과 확산 속도가 전례 없는 수준에 도달하여 오정보의 만연한 확산에 기여하고 있다고 경고합니다.
오정보를 증폭시키는 AI의 어두운 면
AI가 퍼프 재킷을 입은 교황의 AI 생성 이미지나 도널드 트럼프의 체포를 묘사한 딥페이크와 같은 재미있는 콘텐츠를 생성할 잠재력을 지니고 있지만, 악의적 행위자들은 점점 더 자신의 사악한 목적을 위해 AI의 기능을 활용하고 있습니다. 오레순 대학교의 안야 베크만(Anja Bechmann)은 AI가 전 세계적으로 오정보를 생성하고 증폭시키는 것을 가능하게 했으며, 종종 DALL.E와 MidJourney와 같은 플랫폼의 딥페이크와 같은 기술을 사용한다고 지적합니다. 이러한 '급속 오정보 공격' 현상은 즉각적인 혼란을 야기하기 위해 거짓 정보를 신속하고 광범위하게 유포하는 것을 포함합니다.
AI 생성 허위 정보 대응의 과제
팩트체커들은 AI 생성 콘텐츠를 수동으로 검증해야 하는 압도적인 과제에 직면하여 고군분투합니다. 과로에 시달리고 종종 온라인 괴롭힘의 대상이 되는 이 전문가들은 오정보의 확산 속도와 양을 따라잡기 어렵습니다. 효율적인 해결책의 필요성은 그 어느 때보다 시급해졌습니다.
역설적이게도, 오정보를 부추기는 동일한 기술을 이를 퇴치하는 데 활용할 수도 있습니다. AI는 감지 및 완화에서 중요한 역할을 할 수 있습니다. 효과적인 접근 방식은 문장을 미리 정의된 데이터베이스와 비교하여 진위를 확인하는 종단간 콘텐츠 감지 모델을 배포하는 것입니다. 페이스북의 모회사인 메타(Meta)는 위키백과의 집단 지식 베이스와 주장을 교차 참조하는 AI 도구인 Sphere를 도입했습니다. 그러나 위키백과의 정확성을 참조점으로 의존할 때 한계가 발생하며, 저널리즘에서 이러한 접근 방식의 신뢰성에 대한 의문이 남아 있습니다.
팩트체크 협력
오정보 퇴치는 기술 거대 기업과 뉴스 산업 간의 협력을 필요로 합니다. 마이크로소프트와 BBC, 더 텔레그래프와 같은 미디어 조직이 참여한 협력 프로젝트인 Project Origin은 뉴스 유통의 생성부터 소비까지의 무결성을 보존하는 것을 목표로 합니다. 이 이니셔티브는 트랜스코딩된 파일의 메타데이터를 사용하여 정확한 콘텐츠를 식별하기 위한 다양한 도구를 사용합니다.
마찬가지로 AFP, CNRS 등이 참여한 프로젝트인 NODES는 여러 유럽 언어로 전통 미디어와 디지털 미디어 전반에 걸친 오정보의 여정을 분석하는 데 중점을 둡니다. 이 이니셔티브는 오정보 효과적으로 대응하기 위해 필수적인 파트너십인 팩트체커와 뉴스 조직 간의 시너지를 보여줍니다.
노르웨이 모델: AI 기반 팩트체크
노르웨이는 팩트체커와 뉴스 기관 간의 협력에 대한 설득력 있는 예를 제공합니다. 비영리 팩트체크 기관인 Faktisk.no는 노르웨이 내 6개 경쟁 뉴스 기관과 협력합니다. 그들의 AI 부서인 Faktisk Innsikt는 데이터베이스, 자연어 처리(NLP), 노르웨이어 언어 모델을 사용하여 국가 내 오정보와 싸우고 있습니다.
포괄적 솔루션 조성
오정보와의 싸움은 개인의 노력을 넘어섭니다. 유럽연합의 자금 지원을 받는 17개 기관으로 구성된 컨소시엄인 FERMI는 오정보와 가짜 뉴스에 대항하기 위한 여러 이니셔티브를 적극적으로 추진하고 있습니다. 그러나 AI를 활용한 완전 자동화된 팩트체크로의 전환은 아직 먼 목표입니다. 현재 워크플로는 AI와 인간 팩트체커의 결합된 노력을 필요로 합니다.
뉴스 산업이 뉴스룸에 AI를 통합하는 것을 고려함에 있어, AI 도구를 콘텐츠 생성뿐만 아니라 오정보 확산을 저지하는 데에도 활용하는 것이 필수적입니다. AI, 협력적 팩트체크 노력, 그리고 기술 기업과 뉴스 조직 간의 강화된 파트너십을 포함한 다각적 접근 방식은 더 정보에 기반하고 신뢰할 수 있는 디지털 환경을 조성하는 데 중요합니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
