청년들이 딥페이크 위협에 맞서 진실로 도전에 맞서다

세계경제포럼(WEF)의 2024년 글로벌 리스크 보고서는 딥페이크에 주로 의해 주도되는 허위 정보와 오보를 향후 2년 동안 세계가 직면한 가장 심각한 글로벌 단기 리스크로 식별하며 강력한 경고를 발령했습니다.

이에 따라 퀘벡 혁신 이사회도 수개월간의 전문가 및 대중과의 협의 후 상황의 중대성을 인정했습니다.

딥페이크와의 싸움에서의 과제

인공 지능과 생성형 AI를 활용하여 초현실적인 위조를 생성하는 딥페이크는 기술적 경이로움을 넘어 사회에 심오한 위협을 제기합니다. 딥페이크 감지 도구 개발과 입법 노력이 계속되고 있지만, 이 위협을 효과적으로 퇴치하는 데에는 여전히 상당한 격차가 존재합니다.

딥페이크 감지 도구가 개발 중이지만, 빠르게 진화하는 딥페이크 알고리즘의 능력에 뒤처지는 경향이 있습니다. 법 체계와 정부도 디지털 사기와의 싸움에서 앞서가기 위해 고군분투하고 있습니다.

이러한 도전 과제를 고려할 때, 기술과 입법만으로는 이 임박한 위협을 해결하기에 불충분함이 분명합니다.

정치적 허위 정보 우려

딥페이크의 가장 우려되는 측면 중 하나는 정치적 양극화를 부추길 잠재력입니다. 향후 2년 내에 여러 국가에서 약 30억 명의 유권자가 투표할 것으로 예상됨에 따라, 허위 정보 캠페인은 새로 선출된 정부의 정당성을 훼손할 위협을 제기합니다. 

팔레스타인계 미국인 슈퍼모델 벨라 하디드와 같은 유명 인물의 딥페이크는 정치적 진술을 위조하기 위해 조작되었으며, 이는 대중의 의견을 좌우하고 정치적 서사를 왜곡할 수 있는 기술의 능력을 보여줍니다. 딥페이크의 악의적인 사용은 '비건 수류탄'을 옹호하는 그레타 툰베리의 딥페이크와 같은 사례로 exemplified됩니다.

금융 사기 및 포르노그래피 피해

정치적 조작을 넘어, 가짜 비디오는 금융 사기에 활용되고 있습니다. 특히 인기 유튜버 미스터비스트가 틱톡에서 딥페이크 사기에 사칭되어 금융 사기가 발생했습니다. 또한, 딥페이크 포르노그래피는 개인의 얼굴이 동의 없이 명시적인 콘텐츠에 합성되므로 심각한 우려를 제기합니다. 

테일러 스위프트의 성적으로 노골적인 딥페이크 이미지가 소셜 미디어에 퍼진 사례는 모든 연령대의 개인을 대상으로 하는 AI 기반 사기 및 사기에 대한 취약성을 강조합니다.

정책 및 기술 접근

각국과 기술 거대 기업들은 가짜 뉴스를 퇴치하기 위해 정책과 기술을 도입했습니다. 메타와 구글과 같은 기업들은 정치 광고주가 광고에서 AI 조작을 공개하도록 의무화했습니다.

또한, 연구자들은 딥페이크 오디오를 위한 고급 감지 도구를 개발 중이며, 미국과 캐나다에서는 딥페이크 책임법과 같은 입법 조치가 도입되었습니다. 유럽연합도 AI 책임 지침을 통해 온라인 안전과 AI 규제를 다루기 위한 조치를 취했습니다.

청소년 대상 연구

딥페이크와 AI 기술에 의해 부추겨지는 허위 정보의 rising tide를 효과적으로 퇴치하기 위해, 사회과학 및 인문학 연구 이사회(SSHRC)와 캐나다 유산부(Canadian Heritage)가 후원한 연구 프로젝트는 디지털 주체성을 갖춘 청소년을 강화하는 데 중점을 두었습니다. 

이 연구에는 18세에서 24세 사이의 캐나다 대학생들이 포함되었으며, 그들은 워크숍, 인터뷰 및 포커스 그룹 토론에 참여했습니다.

딥페이크를 직접 제작하는 실습 경험을 통해 참가자들은 기술과 그 오용 잠재력에 대한 귀중한 통찰력을 얻었습니다. 초기에는 통제 불가능한 것으로 인식되었던 딥페이크에 대해, 그들은 그 중대한 위협을 이해하고 그 확산을 방지하는 데 대한 책임감을 발전시켰습니다.

청소년 역량 강화 권장 사항

딥페이크 허위 정보와의 지속적인 전투에서 최근 연구의 통찰력은 효과적인 행동을 위한 가치 있는 권장 사항을 제공합니다.

교육은 딥페이크 인식을 교육 과정에 통합함으로써 중추적인 역할을 합니다. 허위 정보의 결과를 가르침으로써 학생들에게 콘텐츠를 비판적으로 평가하는 능력을 갖추게 합니다.

비판적 사고를 장려하는 것이 중요합니다. 청소년이 사회적 규범에 의문을 제기할 수 있는 공간을 제공하고 소셜 미디어 정책에 대해 교육함으로써 책임감 있는 온라인 행동을 육성합니다.

기술 인식은 중요합니다. 생성 과정을 드러냄으로써 딥페이크를 인식하는 방법을 학생들에게 가르침으로써 사기성 콘텐츠를 발견하는 능력을 향상시킵니다.

적극적인 참여가 장려됩니다. 청소년은 의미 있는 활동에 참여하면서 허위 정보에 대해 경계심을 유지해야 하며, 잘못된 정보를 건설적으로 해결하는 방법을 안내받아야 합니다.

다각적 전략

딥페이크의 확산을 효과적으로 막기 위해 다각적 전략이 제안됩니다. 여기에는 교육 과정에 딥페이크 교육을 통합하고, 청소년의 비판적 사고와 디지털 주체성을 육성하며, 악의적인 딥페이크와의 싸움에서 적극적이면서도 정보에 입각한 참여를 장려하는 것이 포함됩니다. 

딥페이크의 함의를 완전히 이해하기 위해 기술, 심리학, 미디어 연구, 윤리를 결합한 학제간 교육 접근법도 강조됩니다.

딥페이크와의 싸움에서 인간의 요소

이 연구는 딥페이크와의 싸움에서 교육과 인간의 요소가 중요한 역할을 강조합니다. 기술과 법적 해결책에만 의존하는 것은 불충분합니다. 젊은 세대와 사회 전체를 허위 정보를 비판적으로 분석하고 도전할 수 있는 기술로 무장시킴으로써, 가짜 뉴스의 조작적 힘에 견딜 수 있는 디지털 문해력이 높고 회복력 있는 사회를 육성할 수 있습니다.

궁극적으로, 디지털 세계의 무결성을 보호하는 데 있어 개인의 역할과 주체성에 대해 교육하는 것이 필수적입니다.