AI 할머니가 사기꾼을 속이고 3가지 기술 우려에 대응합니다

AI 및 모든 신기술은 장단점이 따릅니다. 인공지능은 잠재적 위험 때문에 종종 양날의 검으로 불리지만 혁신을 촉진하기도 합니다.

최신 소식에서 영국 통신 대기업인 O2는 사랑스럽고 수다스러운 할머니로 위장하는 사기꾼과 싸우기 위해 'AI 데이지'를 출시했습니다. 유튜버 짐 브라운닝의 도움을 받아 개발된 이 AI는 자신의 위험에 대한 대안이 될 수 있을까요?

AI 데이지란 누구인가요?

AI 2024년의 주제였지만, 기존 직업을 대체하거나 기존 소프트웨어를 능가하며 프라이버시 및 윤리적 문제를 야기한다는 우려도 논의되고 있습니다. 그러나 영국의 통신 회사인 O2는 새로운 캠페인으로 이 논쟁을 자연스럽게 받아들이고 있습니다.

O2 는 “스워브 더 스캐머 (Swerve the Scammers)” 캠페인의 일환으로 사기꾼들의 시간을 낭비하게 하는 “AI 데이지”를 도입했습니다. 사기꾼들이 AI 할머니와 대화를 하고 있다면, 어디서 실제 사람들을 속일 시간이 남겠습니까? 데이지의 역할은 사기꾼들과 길고 쓸모없는 대화를 이어가며 그들을 바쁘게 만드는 것입니다. 그녀는 “자, 인정해 봅시다, عزیز님, 저는 세상에서 가장 많은 시간을 가지고 있죠.”라고 강조합니다. 또한 회사는 데이지가 더 많은 사기꾼을 식별할 수 있도록 사람들이 사기 번호를 신고하도록 독려하고 있습니다. 광고에서 데이지는 또한 “안녕하세요, 사기꾼 여러분. 저는 여러분의 가장 큰 악몽입니다.”라고 말합니다. AI 할미에게 속으면 화가 나지 않을 수 없습니다. 데이지가 사기꾼들의 시간을 낭비시켜 그들이 당신을 속이지 못하게 하세요.

유튜브 채널에서 사기꾼들을 폭로하는 것으로 유명한 짐 브라운닝도 AI 데이지 훈련에 참여했습니다. 스카이 뉴스와의 인터뷰에서 그는 이 AI가 그의 유튜브 영상에 나오는 실제 사기 전화 녹음 등 많은 자료를 기반으로 훈련되었다고 설명했습니다. 브라운닝은 또한 사기꾼들의 기법을 이해하기 위해 수년 동안 사기 전화를 녹음하고 연구했다고 밝혔습니다. 가상 순찰대원인 데이지는 사기꾼들이 시간과 자원을 낭비하게 만들어 사기 행위가 수익성이 낮아질 수 있다고 합니다.

인공지능은 양날의 검과 같습니다

👉사기성 전화와 문자를 7726으로 신고하세요 pic.twitter.com/hkNMDqG87b

— O2 (@O2) 11월 15, 2024

유튜브 채널에서 사기꾼들을 폭로하는 것으로 유명한 Jim Browning도 AI Daisy 훈련에 관여했습니다. 대화에서 스카이 뉴스, 그는 AI가 그의 유튜브 비디오에서 많은 것이 나오는 실제 사기 전화 녹음들을 사용하여 훈련되었다고 설명합니다. Browning은 또한 사기꾼들의 기법을 이해하기 위해 수년간 녹음하고 학습하는 데 보냈다고 밝혔습니다. 가상 순경에 따르면, Daisy는 사기꾼들이 시간과 자원을 낭비하게 만들어 사기 수익성을 낮출 잠재력이 있습니다.

AI는 양날의 검이다

새로운 기술이 사람들을 구해줄 때, 그 일부는 사기를 더 쉽게 만들고 있습니다. 보고서에 따르면 트루콜러, 2023 년에만 사기꾼들이 미국 성인 5,620 만 명에게 피해를 입혔습니다. 평균적으로 4 명 중 1 명이 452 달러를 잃은 것으로 보고되며, 이 보고서는 시니어 시민이 젊은 성인보다 자주 표적이 되지만 후자가 사기에 당할 위험이 더 높다고 밝혔습니다.

AI 다지 광고에 출연한 인플루언서 에이미 하트는 “사기꾼들이 얼마나 교묘한지 직접 목격했습니다.”라고 말했습니다. 한편, 고용 대행사 팔머 그룹의 CEO 쉘리 팔머는 자신이 그 아이디어를 생각해냈다면 좋았을 것이라고 말합니다. 이 실행 임원은 아이디어에 대해 흥분했음에도 불구하고 경고했다. 목소리 복제가 사기꾼이 사람을 사칭하는 데 악용될 수 있는 위험한 기술이라고 지적하며, 가족들은 비정상적인 요청이 있는 전화에서 신원을 확인하기 위해 ‘안전한 단어 또는 문구’를 사용하도록 제안합니다.

보고서에 따르면 AI 목소리 복제 및 딥페이크 기술은 실제 사람을 사칭하는 측면에서 현실과 거의 차이가 없습니다. Sift의 보안 팀이 블로그를 통해 AI가 데이터를 분석하여 잠재적 피해자와 그들의 취약점을 식별한다고 밝혔습니다. 목표를 잡은 사기꾼들은 감정적 트리거와 이야기를 조작해 자금을 탈취합니다. O2의 데이지는 AI를 이용해 사람을 속이는 것을 막기 위한 대응책입니다. 결과적으로, AI 할머니 데이지는 사기꾼들을 단순히 제압하는 것을 넘어 3 가지 주요 기술 우려 사항을 해결했습니다.

첫째, AI 음성 복제는 사기꾼이 실제 사람을 사칭할 수 있어 개인정보 보호 위험을 초래합니다. 데이지는 이를 역전시켰습니다. 둘째, 일부 비평가들은 사회 내 AI 의 윤리적 함의를 문제 삼았습니다. 이번 캠페인은 긍정적인 목적을 가지고 있으며 책임 있는 AI 사용의 필요성을 설명합니다. 마지막으로, AI 가 인간 고용에 미치는 영향은 모든 대화에서 가장 중요한 주제입니다. 2024 년 AI 데이지는 과거에는 인간의 개입이 필요했던 업무를 처리하고 있습니다. AI 가 고객 서비스에서의 인간 상호작용을 줄였지만, 여러 분석가들은 여전히 이를 과대평가라고 지적합니다.

다만, AI Virgin Media O2 는 "중요하게 투자"하여 사기를 막고 있다고 밝혔으며, 데이지는 reportedly 부정한 발신자를 한 번에 40 분 동안 붙잡아 두었다고 합니다. 한 번에.