McAfee와 Lenovo, 딥페이크 위협 대응을 위한 AI 기반 도구 출시

McAfee와 Lenovo는 딥페이크 위협에 대응하기 위한 AI 기반 도구를 공동 개발하여 출시했습니다. 이 도구는 초기에는 일부 Lenovo AI PC에서 사용할 수 있습니다. Lenovo 클라우드 및 소프트웨어dent 인 Igor Bergman은 딥페이크에 대한 우려가 1년 전보다 훨씬 높아졌다고 언급했습니다.

맥아피는 레노버와 협력하여 개발한 새로운 AI 기반 도구를 출시했다고 발표했습니다. 이 도구는 실시간으로 비디오 콘텐츠를 분석하도록 설계되었으며, AI에 의해 변조되었을 가능성이 있는 콘텐츠를 몇 초 내에 사용자에게 알려준다고 합니다.

McAfee AI 딥페이크 탐지기가 일부 Lenovo AI PC에서 출시될 예정입니다

이번 발표 따르면 딥페이크 탐지 기능은 초기에는 일부 새로운 레노버 AI PC에서 사용할 수 있습니다. 또한 이 소프트웨어는 오늘부터 미국, 영국, 호주에서 판매되는 노트북 구매자에게도 제공될 예정입니다.

맥아피의 제품 담당 수석dent 인 로마 마줌더는 양사 간 협력에 대해 다음과 같이 말했습니다

"맥아피는 AI의 혁신적인 잠재력에 영감을 받아 AI가 긍정적인 방향으로 활용되는 미래를 만들어가는 데 기여하고자 합니다. 레노버와의 협력을 통해 가장 효과적이고 자동화된 AI 기반 딥페이크 탐지 기능을 제공할 수 있게 되었습니다."

맥아피(McAfee)의 연구에 따르면 피해자들은 250달러에서 50만 달러가 넘는 손실을 입었다고 신고했습니다. 맥아피는 영상의 진위 여부를 판별하기 위해 약 20만 개의 샘플을 사용하여 소프트웨어를 학습시켰다고 밝혔습니다.

딥페이크에 대한 우려가 점점 커지고 있습니다

레노버 클라우드 및 소프트웨어 부문dent 인 이고르 베르그만은 발표에서 데이터를 인용하며, 현재 딥페이크에 대한 우려가 1년 전보다 거의 3분의 2에 달한다고 언급했습니다.

맥아피는 발표에서 딥페이크 기술의 심각한 위험성에 대해서도 언급했습니다. 여기에는 유명인 가짜 광고를 통한 소비자 사기, 정치적 조작, 허위 정보의 급속한 확산, 인신공격 등이 포함됩니다.

딥페이크 기술의 사용은 여성, 심지어 어린 소녀들에게까지 광범위한 영향을 미칩니다. 샌프란시스코 최근 인공지능을 이용한 누드 사진 유포 혐의로 16개 웹사이트를 고소했습니다. 이 웹사이트들은 실제 성인은 물론 미성년자의 누드 사진을 딥페이크로 조작하여 유포했습니다. 더욱 심각한 것은 이 웹사이트들이 2024년 상반기에만 총 2억 건의 방문을 기록했다는 점입니다.

일론 머스크와 Ripple CEO의 딥페이크 영상이 유튜브에 유포되고 있으며, 사기꾼들은 이 유명인들의 얼굴을 이용해 가짜 코인과 사기 행각을 홍보하고 있습니다.