구글의 전화 스캔 AI가 기본 검열로 이어질 수 있을까요?

Android 사용자를 전화 사기꾼으로부터 보호하기 위해 Google은 새로운 안전 장치를 개발 중입니다. Google은 사기와 관련된 패턴을 식별하고 사기가 진행 중일 것으로 의심될 때 Android 전화 사용자에게 알림을 제공하는 기술을 테스트하고 있다고 Google 엔지니어링 부사장 Dave Burke는 말했습니다. 

Google은 화요일 I/O 개발자 컨퍼런스에서 사용자가 대화하고 있는 사람이 사기를 시도하고 있을 가능성이 있음을 사용자에게 경고하고 그러한 대화를 취소하도록 유도할 새로운 통화 모니터링 기능을 개발 중이라고 밝혔습니다.

Google은 사용자의 데이터가 안전할 것이라고 보장합니다

Google에 따르면, 이 기능은 회사의 Gemini 대형 언어 모델을 기반으로 하는 Android 스마트폰용 축소된 로컬 및 오프라인 언어 모델인 Gemini Nano를 사용합니다. 

회사는 다음과 같이 말했습니다.

“이 모든 보호는 디바이스 내에서 이루어지므로 대화는 당신에게만 비공개로 유지됩니다.”

“은행 직원”이라고 주장하는 사람들이 은행이 절대 요청하지 않을 비밀번호나 신용카드 PIN 번호를 요구하거나, 기프트 카드나 긴급 송금으로 결제를 요구하는 전화는 이러한 경고를 트리거할 수 있는 몇 가지 예입니다. 

Google은 이러한 새로운 안전 장치가 모두 디바이스 내에서 이루어지므로 Gemini Nano가 경청하는 대화는 비밀로 유지될 것이라고 주장합니다.

프라이버시 전문가들은 이 아이디어에 대해 경계합니다

음성 통화 중 사기와 관련된 패턴을 실시간으로 스캔하기 위해 생성형 AI를 사용하는 회사는 보안 및 프라이버시 분야의 전문가들에게 우려를 불러일으켰습니다. 

또한 읽기: Google I/O에서의 Gemini AI의 인상적인 시연

전문가들은 사기를 식별한 후 정치적 성향, 인권 문제 또는 사람들의 직업과 관련된 개인적인 문제와 관련된 트렌드를 알아차리는 데 그리 오래 걸리지 않을 것이라고 우려했습니다.

AI 보안 솔루션 디자이너이자 엔지니어인 Andriy는 X 플랫폼에 게시하여 Meredith Whittaker의 게시물을 공유하며, Google의 AI 통화 스캔 도구가 그를 양면으로 나누었다고 말했습니다. 그는 사기 방지 장치에 감사하지만, 그 대가로 프라이버시는 어떻게 되는지 묻습니다. 

그는 사이버 보안 전문가이므로 클라이언트 측 스캔이 모니터링으로 쉽게 변질될 수 있음을 잘 알고 있다고 말했습니다.

전문가들은 이것이 빙산의 일각에 불과하며, 실제로는 미래에 중앙 집중식 검열로 발전할 것이라고 예측합니다.

Gemini Nano의 호환성은 제한적입니다

Google은 고객이 사기 감지 기능을 사용하려면 옵트인해야 한다고 말하지만, 회사는 올해 말 추가 세부 사항을 공개할 것이라고 주장합니다. 기능이 언제 접근 가능해질지에 대한 언급은 없습니다. 

또한 읽기: Google Photos는 Gemini 통합으로 AI 기반 “Ask Photos” 기능을 얻습니다

따라서 호환성은 이러한 기술이 유용한 지원자의 범위를 제한할 수 있습니다. Gemini Nano에 대한 개발자 지원 웹사이트는 다음과 같이 명시합니다.

“Gemini 모델 패밀리의 가장 작은 버전인 Gemini Nano는 Google Pixel 8 Pro 및 Samsung S24 시리즈를 시작으로 대응 가능한 Android 디바이스에서 디바이스 내에서 실행될 수 있습니다.”

수년간의 인식 캠페인과 사기를 피하는 방법에 대한 쉽게 이용 가능한 조언으로 인해 일부 사람들은 사기를 쉽게 눈치챌 수 있지만, 사기의 피해자가 될 가능성은 항상 존재합니다. 

작년 10월 Global Anti-Scam Alliance에서 발표한 조사에 따르면, 전 세계 인구의 4명 중 1명이 지난 1년 동안 사기나 신원 도용으로 1조 달러 이상을 잃었습니다.

Aamir Sheikh가 Cryptopolitan에서 보도