허위 정보의 확산을 막기 위한 인공지능 활용

온라인상의 광범위한 허위 정보 문제는 혁신적인 해결책을 촉발하고 있으며, 인공지능(AI)이 잠재적인 게임 체인저로 부상하고 있습니다. AI 생성 딥페이크가 음성 및 비디오 사기의 위험을 높임에 따라, 전문가들은 가짜 뉴스의 확산을 식별하고 대응하기 위해 AI와 블록체인 기술을 활용하는 방법을 모색하고 있습니다. 이 새로운 접근 방식은 잠재적 피해가 가장 큰 영역에서 허위 정보 대응을 우선시하며, 콘텐츠 제작자가 허위 정보의 위협에 효과적으로 대응할 수 있도록 지원하는 것을 목표로 합니다.

허위 정보(misinformation)와 고의적 허위 정보(disinformation)를 명확히 구분해 봅시다. 허위 정보는 오도할 의도가 있는지 여부와 상관없이 퍼지는 잘못된 정보를 의미하며, 고의적 허위 정보는 “한 국가의 군사력이나 계획에 관한 잘못된 정보가 적대적인 전술적 정치적 전복 행위로서 정부나 정보 기관에 의해 유포되는 것”을 의미합니다. 또한 “고의적으로 오도하거나 편향된 정보; 조작된 서사나 사실; 선동”을 의미하는 데에도 사용됩니다.

우리는 허위 정보를 해결할 도구를 가지고 있을지 모르지만, 고의적 허위 정보에 대응하거나 반역죄로 고발당할 입장에 있지 않을 수 있습니다. 고의적 허위 정보는 군사 정부 예산을 포함하며, 비밀 유지 계약(NDA)의 보호를 받으며, 보안상의 이유로 숨겨집니다. 그러한 정보를 입수하는 것은 간첩 행위나 정부 직을 잃을 수 있는 부적절한 간주 간주될 수 있습니다.

허위 정보의 영향과 대응책의 필요성

허위 정보의 해로운 영향은 이를 효과적으로 통제하기 위한 전략을 찾는 것이 시급함을 시사합니다. 소셜 미디어 플랫폼에서 가짜 뉴스가 빠르게 확산됨에 따라 실제 정보와 조작된 정보의 경계가 모호해지면, 이는 잘못된 결정과 대중의 즉각적인 반응을 초래할 수 있습니다.

St. Thomas 대학의 응용 인공지능 센터 소장인 Manjeet Rege는 정확한 정보가 정보에 기반한 의사 결정에 필수적이라고 강조합니다. 그는 가짜 뉴스가 확산되는 속도가 그 영향력에 맞서 즉각적인 조치를 취해야 함을 지적합니다.

가짜 뉴스 생성 및 탐지에서 AI의 양면적 역할

최근 연구는 머신러닝 시스템이 콘텐츠의 잠재적 피해를 평가하고 가장 심각한 위반자를 특정하는 잠재력을 강조합니다. 예를 들어, 코로나19 팬데믹 정점时期, AI의 사용은 백신보다 검증되지 않은 치료를 홍보하는 가짜 뉴스 사례를 식별했습니다.

이 연구를 주도하는 관리 정보 시스템 교수인 Thi Tran은 가짜 뉴스의 위협이 독자에게 실질적인 피해를 입힐 때 가장 우려된다고 강조합니다. 허위 정보가 가장 큰 피해를 입을 가능성이 높은 영역을 식별하면 완화 노력에 대한 표적 접근이 가능해집니다.

AI의 진화하는 정교함과 딥페이크의 위험

AI 기술이 더 정교해짐에 따라 실제 콘텐츠와 가짜 콘텐츠를 구분하는 것이 점점 더 어려워지고 있습니다. 위조된 오디오와 비디오를 포함하는 AI 생성 딥페이크는 심각한 위협을 제기합니다. 디지털 검증 회사 OneSpan의 최고 제품 책임자(Sameer Hajarnis)는 음성 및 비디오 피싱 사기에서 딥페이크의 위험성을 강조하며, 이러한 전술을 악용하는 범죄자가 증가하고 있다고 지적했습니다.

주목할 만한 사건 중 하나는 유명 소비자 금융 옹호자 마틴 루이스(Martin Lewis)의 투자 기회를 지지하는 것으로 보이는 딥페이크 비디오가 일론 머스크(Elon Musk)의 것으로Attributed된 사건입니다. 이 비디오는 나중에 AI 생성 딥페이크로 밝혀졌으며, 사기를 perpetuate하는 데 있어 AI의 힘을 강조합니다.

허위 정보 대응을 위한 다각적 접근

빙엄턴 대학의 접근 방식이 머신러닝을 사용하여 콘텐츠의 잠재적 피해를 평가하는 반면, AI는 진위 여부를 감지하는 능력도 갖추고 있습니다. 일부 AI 생성 콘텐츠는 인간에게는 매우 설득력 있게 보일 수 있지만, AI 모델에게는 쉽게 가짜로 식별될 수 있습니다.

암호학은 가짜 뉴스와의 싸움에서 또 다른 대안을 제공합니다. 사이버 보안 전문가이자 IEEE 회원인 Yale Fox는 개인 신원 증명(proof of personhood)을 제공하기 위해 암호학을 사용할 것을 제안합니다. 공개 키로 비디오를 인코딩하면 진위 여부를 쉽게 확인할 수 있습니다. 이 접근 방식은 복잡한 AI 알고리즘의 필요성을 제거하며 다양한 플랫폼과 장치에서 실행할 수 있습니다.

가짜 뉴스 대응은 기술적 솔루션과 더 넓은 문화적 변화 모두를 포괄하는 다각적 접근이 필요합니다. Santa Clara 대학의 Markkula 응용 윤리 센터의 저널리즘 및 미디어 윤리 프로그램 소장인 Subramaniam Vincent는 AI 산업 참여자와 뉴스 미디어 회사 간의 협력이 필요하다고 강조합니다. 또한, AI 도구가 가짜 뉴스의 유포를 효과적으로 대응할 수 있는 환경을 조성하기 위해 정치 및 선거에서 민주적 가치를 육성하는 것이 필수적입니다.

AI는 확실히 상당한 영향력을 행사하지만, 허위 정보가 제기하는 복잡한 도전에 대응하기 위해 다른 요인과 함께 작동해야 합니다. 허위 정보의 대항에서 민주주의를 위한 전투가 격화됨에 따라, AI는 진정한 효과를 발휘하기 위해서는 포괄적인 접근이 필요한 도구임에도 불구하고 강력한 무기로 부상하고 있습니다.