AI와 소셜 미디어가 이스라엘-하마스 분쟁에서 ‘전쟁의 안개’를 증폭시킨다, 기술 정책 전문가의 경고

이스라엘과 하마스 간의 지속된 분쟁은 물리적 폭력뿐만 아니라 인공지능(AI)과 소셜 미디어가 중요한 역할을 하는 디지털 전장에서도 악화되고 있다. 더 헤리티지 재단의 기술 정책 센터 연구원인 제이크 덴톤은 현대 전쟁의 맥락에서 AI 생성 콘텐츠, 딥페이크 및 소셜 미디어 플랫폼에서의 허위 정보 확산의 함의를 조명한다.

AI 생성 콘텐츠의 확산

현재 분쟁 환경에서 가장 우려되는 측면 중 하나는 딥페이크를 포함한 AI 생성 콘텐츠의 사용이다. 덴톤은 이러한 기술이 실제 시나리오를 모방한 합성 오디오 녹음과 비디오를 생성하는 데 악용되어 진위 구분이 어렵다고 지적한다. 일부 경우, 군사 관리가 임박한 공격을 발표하는 가짜 오디오 녹음이 텔레그램과 왓츠앱과 같은 플랫폼에서 유포되기도 했다. 덴톤은 이러한 녹음은 종종 신뢰성을 높이기 위해 배경 소음을 포함한다고 언급한다.

비디오 딥페이크의 경우, 오디오와 비디오의 비동기화가 흔한 단서 중 하나로, 콘텐츠가 조작되었음을 나타낼 수 있다. 그러나 오디오 파일의 경우, 실제 콘텐츠와 합성 콘텐츠를 구분하는 것이 점점 더 어려워진다.

소셜 미디어 플랫폼의 역할

덴톤은 또한 소셜 미디어 플랫폼이 ‘전쟁의 안개’를 악화시키는 데果たす 역할도 강조한다. 그는 중국계 소유의 앱인 틱톡을 가짜 및 진위 합성 미디어, 딥페이크를 홍보하는 플랫폼으로 지목한다. 우려스러운 점은 이러한 콘텐츠가 종종 정보를 사실 확인하는 비판적 기술이 부족한 젊은 층에 의해 시청되고 공유된다는 것이다.

틱톡과 같은 플랫폼에서 사용자는 높은 팔로워 수와 많은 좋아요 수로 인해 진정성 있는 것처럼 보이는 비디오에 노출된다. 덴톤은 이러한 콘텐츠가 조작되거나 조작된 것임에도 불구하고 진정성을 가정하는 위험성을 강조한다.

바이든 대통령의 인공지능 행정명령

팟캐스트에서 덴톤은 조 바이든 대통령의 인공지능에 관한 행정명령에 대해서도 논의한다. 명령의 세부 사항은 대화에서 제공되지 않지만, 미국 정부가 국가 안보 및 전쟁을 포함한 다양한 응용 분야에서 AI와 그 다양한 응용 프로그램을 규제하는 데 점점 더 많은 관심을 보이고 있다는 점은 주목할 만하다. 바이든 대통령의 명령은 아마도 AI 윤리, 투명성 및 책임성과 관련된 문제를 다룰 것이다.

소셜 미디어 기업의 책임

토론의 또 다른 측면은 AI가 생성한 가짜 이미지와 비디오의 확산을 모니터링하고 대응하는 데 있어 소셜 미디어 기업의 역할에 관한 것이다. 덴톤은 이러한 플랫폼이 허위 정보의 증폭을 방지하기 위해 이러한 콘텐츠를 감지하고 제거하기 위해 더 적극적인 조치를 취해야 한다고 제안한다.

개인을 위한 가짜 콘텐츠 식별 능력 강화

AI 생성 콘텐츠와 딥페이크가 증가하는 세상에서 개인이 온라인에서 가짜 이미지와 비디오를 식별하는 데 필요한 기술을 갖추는 것이 필수적이다. 덴톤은 특히 허위 정보에 더 취약한 젊은 사용자들을 대상으로 미디어 리터러시와 비판적 사고의 중요성을 강조한다.

지속된 이스라엘-하마스 분쟁은 AI와 소셜 미디어가 현대 전쟁의 서사를 형성하는 데 있어 점점 더 큰 영향력을 발휘하고 있음을 보여준다. 더 헤리티지 재단의 팟캐스트 에피소드에서 공유된 제이크 덴톤의 통찰력은 현실과 기만 사이의 경계를 모호하게 만드는 AI 생성 콘텐츠와 딥페이크의 우려스러운 확산을 강조한다. 또한 틱톡과 같은 소셜 미디어 플랫폼은 가짜 및 진위 합성 미디어를 유포하기 위한 번성한 땅이 되어 디지털 리터러시와 사실 확인에 상당한 도전을 제기한다.

이러한 도전에 대응하여, 조 바이든 대통령의 인공지능에 관한 행정명령은 AI 규제 및 윤리와 관련된 주요 문제를 다룰 것으로 예상된다. 또한 가짜 콘텐츠의 확산을 적극적으로 대응하는 것은 소셜 미디어 기업의 책임이다.

궁극적으로 AI와 소셜 미디어로 인해 강화된 ‘전쟁의 안개’가 특징인 디지털 시대에는 개인이 점점 더 복잡하고 기만적인 정보 환경에서 사실과 허구를 구분하기 위해 비판적 사고 기술과 미디어 리터러시를 개발해야 한다.