중국 스마트폰 거대 기업들이 프라이버시 대가로 AI를 재정의하다

중국 스마트폰 제조사들은 AI 모델을 사용하여 수동 앱 탐색을 핸즈프리이고 원활한 작업으로 대체할 계획입니다. 이 기술은 비교할 수 없는 편의성을 약속하지만, 사용자가 장치와 앱에 대해 가지는 통제력에 대한 의문을 제기합니다.

샤오미, 비보, 오포, 아너와 같은 현지 기업들이 이 의제와. 아너의 슬로건은 “AI가 많을수록 사용자를 더 잘 이해합니다,”라는 문구는 이러한 변화의 잠재력과 위험을 모두 포착합니다. 

위험은 다음과 같습니다: AI 기반 의사결정이 명시적인 동의 없이 수집된 개인 데이터를 기반으로 할 경우, 이는 사용자 경험을 향상시키는 것보다 침입적인 감시에 더 가까워집니다.

명백히, 2024년 10월 Magic 7 출시 당시 CEO 조지 자오는 무대 위에서 한 번의 탭도 요구하지 않고 2,000잔의 커피를 주문하기 위해 전화를 사용했습니다. 관객은 경악했지만, 질문은 계속되었습니다: 기술은 자오의 선호도를 어떻게 알았으며, 앱을 선택하고 결제를 승인했을까요? 

이 놀라운 편의성 시연은 중요한 문제에 대한 대면을 촉구합니다: 이러한 혁신이 사용자 자율성과 프라이버시를 어느 정도까지 침해합니까? 조지 자오의 라이브 퍼포먼스는 전화가 명령을 따르기 위해 개인 데이터에 접근했을 때만 가능했을 것입니다. 사용자에게 더 중요한 것은 편의성입니까, 프라이버시입니까?

사생활 침해의 위험은 어디까지 갈 수 있는가?

Magic 7를 분석한 결과, 이 앱은 Android의 접근성 권한을 악용하는 것으로 드러났다. 이 기능은 장애인 사용자를 돕기 위해 고안된 것이다. 그러나 Honor를 비롯한 일부 중국 기술 기업들은 전통적인 동의 절차를 우회하여 투명하지 않고 규제되지 않은 방식으로 민감한 사용자 데이터에 접근하고 있다.

AI 기반의 의사결정 시스템은 스마트폰이 잘못된 손에 넘어갈 경우 쉽게 무기로 전락할 수 있다. 둘째, 해커들은 이러한 시스템을 악용하여 사용자의 금융 데이터, 메시지, 심지어 사적인 사진에까지 접근할 수 있다. 강력한 안전 장치가 마련되지 않으면, 인공지능 기술의 편의성이 감시와 통제의 도구가 될 위험이 있다.

그 영향력은 더 이상 심각할 수 없다. 방치할 경우, 현재의 추세는 스마트폰이 사용자를 위해 작동하는 것을 넘어, 사용자의 몰래 그들의 행동을 감시하고 관리하며 상업화하는 미래로 이어질 수 있다.

특히 제조사와 규제 기관이 직면한 과제는 책임과 혁신의 균형을 맞추는 것이다. 문제는 AI가 우리 기기를 지배할지 여부가 아니다. 이미 AI는 기기를 지배하고 있다. 그럼에도 불구하고 AI 기술로 구동되는 기기의 잠재력은 부인할 수 없다. 이러한 기기들은 일상적인 업무를 단순화하고 접근성을 향상시킴으로써 삶을 혁신할 수 있는 능력을 갖추고 있다.

한편, 애플은 애플 인텔리전스 2024년 6월, Siri를 더 직관적인 비서로 변화시킨 온디바이스 AI 시스템을 도입했다. 그럼에도 불구하고 애플의 중국 내 '혁명적' 조치는 큰 영향을 미치지 못했다.  

사생활 침해에 대해 법은 무엇을 말하고 있는가?

사생활 침해는 합법적이지 않다. 실제로 2021년 중국 앱 개발자들은 법적 조치를 받았다. 그들은 권한을 악용하여 디지털 거래를 가로채는 도구를 개발했다는 혐의를 받았다. 

또한, 설 명절 기간 동안 레드팩헌터(Red Packet Hunter)와 같은 앱은 위챗 레드엔벨로프를 자동으로 가로챘다. 법원은 이러한 행위가 경쟁법을 위반했다고 판단하여 개발자들에게 벌금과 심지어 징역형을 선고했다.

또한, 이러한 위험을 창의적 과정의 일부로 수용한 중국 기업들과 달리 서방 경쟁자들은 신중하게 접근한다. 예를 들어, 마이크로소프트는 올해 초 리콜(Recall) 기능으로 비판을 받았다. 이 기능은 사용자의 행동을 평가하고 작업을 추천하기 위해 주기적인 스크린샷을 사용한다.

비평가들은 이 기능을 오웰의 악몽에 비유했으며, 일론 머스크와 같은 기술 리더들은 해당 기능의 삭제를 촉구했다. 사이버 보안 전문가들은 이러한 기능이 감시를 용이하게 하는 데 악용될 수 있다고 경고했다.