중국의 스마트폰 대기업들이 인공지능(AI)의 개념을defi하고 있지만, 그 대가는 사용자의 개인정보 보호입니다

중국 스마트폰 제조업체들은 인공지능 모델을 활용한 간편한 앱 조작으로 수동 앱 탐색 방식을 대체하려는 움직임을 보이고 있다. 이러한 기술은 비교할 수 없는 편리함을 약속하지만, 기기와 앱에 대한 사용자 통제권에 대한 의문도 제기한다.

샤오미, 비보, 오포, 아너와 같은 국내 기업들이 이러한 변화. 아너의 슬로건인 "인공지능이 높을수록 당신을 더 잘 이해합니다"는 이러한 변화의 잠재력과 위험성을 모두 잘 보여줍니다. 

이것이 바로 위험입니다. 인공지능 기반 의사 결정이 명시적인 동의 없이 수집된 개인 데이터에 기반할 경우, 사용자 경험 향상보다는 사생활 침해적인 감시로 이어질 수 있습니다.

알려진 바에 따르면, 2024년 10월 매직 7 출시 행사에서 CEO 조지 자오는 무대 위에서 스마트폰을 이용해 단 한 번의 터치도 없이 커피 2,000잔을 주문했습니다. 관객들은 경탄했지만, 의문은 끊이지 않았습니다. 기술이 어떻게 자오의 취향을 파악하고, 앱을 선택하고, 결제를 승인할 수 있었을까요? 

이처럼 놀라운 편의성을 보여주는 사례는 중요한 문제에 대한 질문을 던집니다. 이러한 혁신이 사용자의 자율성과 사생활을 어느 정도까지 침해하는가? 조지 자오의 라이브 공연은 휴대전화가 명령에 따라 개인 데이터에 접근해야만 가능했습니다. 사용자에게 더 중요한 것은 편의성일까요, 아니면 사생활일까요?

개인정보 침해의 위험은 어디까지 미치는가?

Magic 7을 조사한 결과 안드로이드의 접근성 권한 기능을 악용하는 것으로 드러났습니다. 이 기능은 장애가 있는 사용자를 지원하기 위한 것입니다. Honor를 비롯한 일부 중국 기술 기업들은 기존의 동의 절차를 우회하여 불투명하고 규제되지 않은 방식으로 민감한 사용자 데이터에 접근하고 있습니다.

인공지능 기반 의사결정 시스템은 스마트폰이 악용될 경우 손쉽게 무기화될 수 있습니다. 또한, 해커들은 이러한 시스템을 악용하여 사용자의 금융 데이터, 메시지, 심지어 개인 사진까지 탈취할 수 있습니다. 강력한 안전장치가 마련되지 않는다면, 지능형 기술의 편리함이 감시와 통제의 도구로 전락할 위험이 있습니다.

그 파장은 더할 나위 없이 심각합니다. 만약 현재 추세가 제어되지 않고 지속된다면, 휴대전화가 사용자에게 편의를 제공할 뿐만 아니라 사용자 모르게 사용자의 행동을 감시, 관리, 그리고 상업화하는 미래로 이어질 수 있습니다.

특히 제조업체와 규제 기관 모두에게 중요한 과제는 책임과 혁신 사이의 균형을 맞추는 것입니다. 인공지능이 우리 기기를 지배할지 여부가 문제가 아니라, 이미 지배하고 있다는 점이 문제입니다. 하지만 지능형 기술로 구동되는 기기의 잠재력은 부인할 수 없습니다. 이러한 기기들은 일상생활을 간소화하고 접근성을 향상시켜 삶을 혁신할 수 있는 잠재력을 지니고 있습니다.

한편, 애플은 애플 인텔리전스를 시리를 더욱 직관적인 음성 비서로 탈바꿈시켰습니다. 그러나 애플의 이러한 "혁신적인" 중국 시장 진출은 큰 반향을 일으키지 못했습니다.  

법은 사생활 침해에 대해 어떻게 규정하고 있나요?

개인정보 침해는 불법입니다. 실제로 2021년에는 중국 앱 개발자들이 법적 조치를 당했습니다. 이들은 사용자의 권한을 악용하여 디지털 거래를 가로채는 도구를 개발했다는 ​​혐의를 받았습니다. 

또한, 설날 연휴 기간 동안 '레드 패킷 헌터'와 같은 애플리케이션이 위챗으로 보내는 세뱃돈을 자동으로 가로챘matic. 법원은 이러한 행위가 경쟁법을 위반했다고 판단하여 개발자들에게 벌금형이나 징역형을 선고했습니다.

또한, 이러한 위험을 창의적인 과정의 일부로 받아들인 중국 기업들과는 달리, 서구 경쟁업체들은 신중하게 접근합니다. 예를 들어, 마이크로소프트는 올해 초 리콜(Recall) 기능으로 비판을 받았습니다. 이 기능은 사용자의 행동을 분석하고 권장 조치를 제시하기 위해 주기적으로 스크린샷을 찍기 때문입니다.

비평가들은 이 기능을 오웰의 악몽에 비유했고, 이에 일론 머스크와 같은 기술 업계 리더들은 해당 기능의 제거를 요구했습니다. 사이버 보안 전문가들은 이러한 기능이 감시를 용이하게 하는 데 악용될 수 있다고 경고했습니다.