젊은이들이 딥페이크 위협에 맞서 진실로 대응하며 도전에 나서고 있다

세계경제포럼(WEF)의 2024년 글로벌 위험 보고서는 딥페이크를 중심으로 확산되는 허위 정보와 가짜 뉴스를 향후 2년간 세계가 직면할 가장 심각한 단기적 위험으로dent하며 강력한 경고를 발령했습니다.

이와 관련하여 퀘벡 혁신위원회도 수개월에 걸친 전문가 및 일반 시민과의 협의 끝에 상황의 심각성을 인식했습니다.

딥페이크와의 싸움에서 직면하는 과제

인공지능과 생성형 AI를 활용하여 극도로 사실적인 이미지를 만들어내는 딥페이크는 단순한 기술적 경이로움을 넘어 사회 전반에 심각한 위협을 가하고 있습니다. 딥페이크 탐지 도구 개발과 관련 법제화 노력이 지속되고 있음에도 불구하고, 이러한 위협에 효과적으로 대처하기에는 여전히 상당한 격차가 존재합니다.

딥페이크 탐지 도구는 개발 중이지만, 빠르게 발전하는 딥페이크 알고리즘의 기능을 따라잡는 데 어려움을 겪고 있습니다. 법률 시스템과 정부 또한 디지털 기만과의 싸움에서 앞서 나가기 위해 고심하고 있습니다.

이러한 어려움들을 고려할 때, 기술과 법률만으로는 이 임박한 위협에 대처하기에 불충분하다는 것이dent 합니다.

정치적 허위 정보 우려

딥페이크의 가장 우려스러운 측면 중 하나는 정치적 양극화를 심화시킬 가능성입니다. 향후 2년 안에 여러 국가에서 약 30억 명의 유권자가 투표에 참여할 것으로 예상되는 가운데, 허위 정보 유포는 새로 선출된 정부의 정당성을 훼손할 위험이 있습니다. 

팔레스타인계 미국인 슈퍼모델 벨라 하디드와 같은 유명 인사들의 딥페이크 영상이 조작되어 그들의 정치적 발언이 왜곡되는 사례가 발생했는데, 이는 딥페이크 기술이 여론을 조작하고 정치적 담론을 왜곡할 수 있는 능력을 보여줍니다. 그레타 툰베리가 "채식주의자 수류탄"을 옹호하는 것처럼 조작된 딥페이크 영상은 딥페이크 기술의 악용 사례를 잘 보여줍니다

금융 사기 및 음란물 관련 피해

정치적 조작을 넘어, 가짜 영상은 금융 사기에도 악용되고 있습니다. 특히 인기 유튜버인 MrBeast는 틱톡에서 딥페이크 사기에 이용되어 금전적 피해를 입었습니다. 더욱이, 딥페이크 음란물은 개인의 얼굴이 동의 없이 노골적인 콘텐츠에 합성되는 심각한 문제로 대두되고 있습니다. 

성적으로 노골적인 테일러 스위프트의 딥페이크 이미지가 소셜 미디어에 퍼지는 사례는 모든 연령대의 사람들을 대상으로 하는 AI 기반 사기 및 스캠에 대한 취약성을 여실히 보여줍니다.

정책 및 기술적 접근 방식

여러 국가와 거대 기술 기업들이 가짜 뉴스 퇴치를 위한 정책과 기술을 도입해 왔습니다. 메타와 구글 같은 기업들은 정치 광고주들에게 광고에 인공지능이 조작되었는지 여부를 공개하도록 의무화했습니다.

또한, 연구원들은 딥페이크 오디오를 탐지하는 고급 도구를 개발하고 있으며, 미국과 캐나다에서는 딥페이크 책임법과 같은 법안이 도입되었습니다. 유럽 연합 역시 인공지능 책임 지침을 통해 온라인 안전 및 인공지능 규제 문제를 해결하기 위한 조치를 취했습니다.

청소년을 대상으로 한 연구

딥페이크와 AI 기술로 인해 확산되는 허위 정보에 효과적으로 대응하기 위해 사회과학 및 인문학 연구위원회(SSHRC)와 캐나다 문화유산부의 지원을 받은 연구 프로젝트는 청소년의 디지털 역량 강화에 중점을 두었습니다. 

이 연구에는 워크숍, 인터뷰 및 포커스 그룹 토론에 참여한 18세에서 24세 사이의 캐나다dent이 포함되었습니다.

참가자들은 딥페이크 제작이라는 실습 경험을 통해 해당 기술과 오용 가능성에 대한 귀중한 통찰력을 얻었습니다. 처음에는 딥페이크를 통제할 수 없는 것으로 인식했지만, 점차 그 심각한 위협을 이해하고 확산 방지에 대한 책임감을 갖게 되었습니다.

청소년 역량 강화 권고 사항

딥페이크 허위 정보와의 끊임없는 싸움에서 최근 연구 결과는 효과적인 조치를 위한 귀중한 권고 사항을 제시합니다

교육은 딥페이크에 대한 인식을 교육과정에 통합함으로써 중추적인 역할을 수행합니다. 허위 정보의 결과에 대한 교육은dent이 콘텐츠를 비판적으로 평가할 수 있도록 돕습니다.

비판적 사고를 장려하는 것은 매우 중요합니다. 청소년들이 사회적 규범에 대해 질문할 수 있는 공간을 제공하고 소셜 미디어 정책에 대해 교육하는 것은 책임감 있는 온라인 행동을 함양하는 데 도움이 됩니다.

기술에 대한 인식을 높이는 것은 매우 중요합니다. 딥페이크 제작 과정을 보여줌으로써dent딥페이크를 식별하는 방법을 배우게 되면, 기만적인 콘텐츠를 가려내는 능력이 향상됩니다.

적극적인 참여를 장려해야 합니다. 청소년들은 의미 있는 활동에 참여하면서도 허위 정보에 대한 경계심을 유지해야 하며, 잘못된 정보에 대해 건설적인 방식으로 대응할 수 있도록 지도받아야 합니다.

다각적인 전략

딥페이크 확산을 효과적으로 막기 위해 다각적인 전략을 제안합니다. 이 전략에는 딥페이크 교육을 교육과정에 통합하고, 청소년의 비판적 사고력과 디지털 역량 개발을 지원하며, 악의적인 딥페이크와의 싸움에 적극적이면서도 충분한 정보를 바탕으로 참여하도록 장려하는 것이 포함됩니다. 

딥페이크의 의미를 온전히 이해하기 위해서는 기술, 심리학, 미디어 연구, 윤리학을 결합한 학제 간 교육적 접근 방식이 강조됩니다.

딥페이크와의 싸움에서 인간적인 요소

본 연구는 딥페이크와의 싸움에서 교육과 인간적 요소의 중요성을 강조합니다. 기술과 법적 해결책에만 의존하는 것은 불충분합니다. 젊은 세대와 사회 전체에 허위 정보를 비판적으로 분석하고 반박할 수 있는 능력을 갖추도록 함으로써, 디지털 문해력이 뛰어나고 가짜 뉴스의 조작적인 영향력에 맞설 수 있는 회복력 있는 사회를 육성할 수 있습니다.

궁극적으로, 우리 디지털 세계의 건전성을 보호하는 데 있어 개인의 역할과 영향력에 대해 교육하는 것이 필수적입니다.