버핏, AI 딥페이크에 경고

버크셔 해서웨이 의장은 자신을 대신한 AI 버전을 생성하거나 소비하는 모든 사람은 진정한 워런 버핏은 단 한 명뿐이라는 점을 기억해야 한다고 말했습니다. 이 회사는 유튜브에서 장기간 CEO인 자신의 AI 생성 영상이 실제로 말하지 않은 진술을 하는 것으로 유포되고 있다고 경고했습니다.

이에 세계 최고의 투자자 중 한 명인 버핏은 최근 이러한 AI 생성 영상들을 생성하거나 시청하는 책임자들에게 연락할 의사를 명확히 했습니다. 그는 오마하의 신탁(Omaha Oracle)은 단 한 명뿐이라고 언급했습니다. 특히 '오마하의 신탁'은 워런 버핏의 인기 있는 별명입니다.

AI 사칭자들은 점점 더 버핏, 즉 '오마하의 신탁'으로 널리 알려진 그에게 집중하고 있습니다. 그러나 그의 회사는 비주얼은 설득력 있을 수 있지만 오디오는 일반적으로 일반적이고 명백히 가짜라고 지적했습니다.

버핏은 가짜 클립이 통제 불능 상태로 퍼지고 있다고 말했습니다

발표문에서 '그가 아니다(It’s Not Me)'라는 제목의 회사 특정 '50세 이상 모든 사람을 위한 최고의 투자 팁 #1 (필독)'이라는 제목의 영상을 지목했으며, 여기서 AI 생성 음성이 투자 조언을 제공합니다.

회사는 버핏에 익숙하지 않은 사람들이 이 영상이 실제라고 믿을 수 있다고 지적했습니다. 회사는 '버핏 씨는 이러한 사기성 영상이 확산되는 바이러스가 되고 있는 것에 우려하고 있다'고 덧붙였습니다.

최근 몇 달 동안, 공인 인물의 AI 사칭 이 증가했습니다. 5월, FBI는 심지어 범죄자들이 AI 생성 음성 통화와 텍스트를 사용하여 고위 관리자를 사칭하며 정부 직원 계정에 접근하려고 시도했다고 보고했습니다.

또한 7월 JPMorgan 보고서에 따르면, 한 개인은 영상 통화를 통해 상급자와 대화한다고 생각한 후 자금을 이체하도록 유도받았습니다. '리더들'은 실제로 AI가 생성한 딥페이크였습니다.

버핏은 이전에 AI 사칭자들에 대한 불만을 공개적으로 표명해 왔습니다. 2024년 선거 몇 주 전, 그는 자신의 이름이 가짜 후원과 사기성 투자 제안에서 오용되고 있다고 경고했습니다. 그는 과거 바락 오바마 대통령과 민주당 후보 힐러리 클린턴을 지지한 바 있으며, 일반적으로 정치에 관여하지 않았습니다. 그는 연말까지 버크셔 헤서웨이 CEO직에서 물러날 예정이며, 부회장 그레그 아벨이 후임으로 취임할 예정입니다.

음성 복제 기술의 빠른 발전

작년, 사이버 위협과 사기로 인한 손실은 166억 달러 이상으로, 전년대비 33% 증가했습니다. 신원 도용 자원 센터는 또한 사칭 사기가 148% 급증했다고 경고했으며, 범죄자들은 이제 가짜 사이트, AI 봇, 복제된 음성을 사용하여 피해자를 속이고 있습니다.

맥아피는 음성 복제가 매우 훌륭해졌다고 말합니다. 사이버 범죄자들 단 3초의 오디오만 녹음하면 몇 초 만에 동일한 음성을 재현할 수 있습니다. 보고서에 인용된 설문 조사 응답자의 대부분인 약 70%는 인터넷에서 실제 음성과 위조 음성을 구분하는 것이 점점 더 어려워진다고 밝혔습니다. 딜로이트도 보고서에서 사기꾼들이 사용하는 온라인 사기 웹사이트와 도구는 이제 다크 웹에서 쉽게 이용 가능하다고 썼습니다. 또한, 애드밴스 디렉트 스코틀랜드는 AI 사기 사기가 설정하는 데 2분도 걸리지 않을 것으로 추정합니다.

오늘날 사기꾼들이 가장 좋아하는 무대는 금융 부문입니다. 금융범죄단속망(FinCEN)은 2024년 11월 합성 신원 사기의 증가와 관련하여 미국 은행들에게 통지를 발부했습니다. 딜로이트의 보고서에서는 또한 2023년 손실된 123억 달러에서 2027년까지 사기 손실이 400억 달러에 달할 것으로 예측합니다.