인공지능을 비롯한 모든 신기술은 장단점을 따져보고 있습니다. 인공지능은 혁신을 촉진하는 동시에 잠재적 위험성도 내포하고 있어 양날의 검으로 불리기도 합니다.
최근 영국의 통신 대기업 O2는 친절하고 수다스러운 할머니를 사칭하는 사기꾼들을 막기 위해 "AI 데이지"를 출시했습니다. 유튜버 짐 브라우닝의 도움을 받아 개발된 이 AI 데이지는 인공지능이 스스로의 위험성에 대한 대책을 제시하는 것일까요?
AI 데이지는 누구인가요?
인공지능(AI)이 화두로 떠올랐지만, 일자리 감소, 기존 소프트웨어 무력화, 개인정보 및 윤리적 문제 야기 등에 대한 우려도 제기되고 있습니다. 하지만 영국의 통신 회사 O2는 이러한 논쟁에 긍정적으로 대응하기 위해 새로운 캠페인을 시작했습니다.
O2는 사기꾼들의 시간을 낭비시키기 위해 "사기꾼을 조심하세요(Swerve the Scammers)" 캠페인의 일환으로 "AI 데이지"를 도입했습니다. 사기꾼들이 AI 할머니와 이야기하느라 정신이 팔려 있다면, 진짜 사람들을 속일 시간이 어디 있겠습니까 ? 데이지의 역할은 사기꾼들과 길고 의미 없는 대화를 나누며 그들의 주의를 딴 데로 돌리는 것으로 보입니다. 데이지는 "솔직히 말해서, 얘야, 난 시간이 아주 많단다 강조 dent 식별할 수 있도록 돕고 있습니다 .
광고에서 데이지는 "사기꾼 여러분, 안녕하세요. 저는 여러분의 최악의 악몽입니다."라고 말합니다
사기당한 AI 할머니만큼 무서운 존재는 없습니다. 데이지가 사기꾼들의 시간을 낭비하게 만들어 당신을 속이지 못하게 하는 모습을 지켜보세요.
👉사기성 전화 및 문자는 7726으로 신고하세요. pic.twitter.com/hkNMDqG87b
— O2 (@O2) 2024년 11월 15일
유튜브 채널에서 사기꾼들을 폭로하는 것으로 유명한 짐 브라우닝은 인공지능 데이지 훈련에도 참여했습니다. 스카이 뉴스(Sky News) 그는 데이지가 실제 사기 전화 녹음 파일을 기반으로 훈련되었으며, 그중 상당수는 자신의 유튜브 영상에서 가져온 것이라고 설명했습니다. 브라우닝은 또한 사기꾼들의 수법을 이해하기 위해 수년간 사기꾼들의 통화 내용을 녹음하고 분석해왔다고 밝혔습니다. 이 가상 자경단원에 따르면, 데이지는 사기꾼들이 시간과 자원을 낭비하게 만들어 사기 행위의 수익성을 떨어뜨릴 수 있다고 합니다.
인공지능은 양날의 검이다
첨단 기술이 사람들을 구하는 데 도움이 되는 것처럼 보이지만, 그 일부가 사기를 더 쉽게 만드는 부작용도 있습니다. 트루콜러(Truecaller) , 2023년 한 해에만 미국 성인 5,620만 명이 사기 피해를 입었습니다. 평균적으로 4명 중 1명은 452달러를 잃었다고 합니다. 또한 이 보고서는 노년층이 젊은 성인보다 사기의 표적이 되는 경우가 더 많지만, 사기 피해 위험은 오히려 젊은 성인에게 더 높다는 사실을 밝혀냈습니다.
AI 데이지 광고에 출연했던 인플루언서 에이미 하트는 "악랄한 사기꾼들이 얼마나 교묘한지 직접 경험해 봤다"고 말했다. 한편, 고용 에이전시 팔머 그룹의 CEO 셸리 팔머는 자신이 이 아이디어를 생각해냈으면 좋았을 거라고 말했다. 그는 이 아이디어에 고무되면서도 경고했다 평소와 다른 요구를 하는 전화에 대해 신원을 dent 하기 위해 "안전 단어나 문구"를 정해두는 것이 좋다고 조언했다
보도에 따르면, AI 음성 복제 및 딥페이크 기술은 실제 사람을 사칭하는 데 있어 거의 완벽에 가깝습니다. Sift의 안전 팀은 블로그를 통해 AI가 데이터를 분석하여 잠재적 피해자와 그들의 취약점을 dent 사기꾼들은 일단 대상을 정하면 감정적인 자극과 이야기를 이용해 돈을 갈취합니다. O2의 데이지는 이러한 AI 사기 행위에 대한 대응책입니다. AI 할머니 데이지는 사기꾼들을 능가할 뿐만 아니라, 세 가지 주요 기술적 문제점을 해결했습니다.
첫째, AI 음성 복제는 사기꾼들이 실제 사람을 사칭할 수 있게 되어 개인정보 침해 위험을 높입니다. 하지만 데이지는 이러한 상황을 역전시킵니다. 둘째, 비평가들은 사회에서 AI의 윤리적 함의에 대해 의문을 제기해 왔습니다. 이 캠페인은 긍정적인 목적을 가지고 있으며 책임감 있는 AI 사용의 필요성을 설명합니다. 마지막으로, AI가 인간의 일자리에 미치는 영향은 모든 논의의 핵심입니다. 2024년에는 AI 데이지가 한때 인간의 개입이 필요했던 작업을 처리하게 될 것입니다. AI가 고객 서비스에서 인간과의 상호 작용을 줄였다는 주장도 있지만, 일부 분석가들은 여전히 그 효과가 과대평가되었다고 지적합니다.
하지만 AI 기반 음성 인식 시스템인 버진 미디어 O2는 사기 방지를 위해 "대규모 투자를 했다"고 밝혔으며, 데이지는 의심스러운 발신자들을 최대 40분 동안 동시에 .
