마이크로소프트의 새로운 AI 기능 Recall, 프라이버시 우려 제기

사용자의 화면에 표시되는 모든 것을 저장하는 마이크로소프트의 새로운 AI 기반 ‘리콜(Recall)’ 기능은 프라이버시 문제에 대해 격렬한 논쟁을 불러일으키고 있습니다. 기존의 키워드 검색과는 달리 리콜은 사용자의 화면을 정기적으로 스크린샷으로 캡처하여 기기 로컬에 저장합니다. 

함께 읽기: 마이크로소프트, Xbox 및 PC 게임에 Copilot AI 통합

획득한 스크린샷은 인공지능을 통해 분석되어, 필요할 때 콘텐츠가 검색 및 검색 가능하도록 처리됩니다.  

프라이버시 옹호자들, “악몽 같은” 위험에 경보 발령

메릴랜드 대학교 AI 교수인 젠 골벡은 리콜(Recall)이 잘못된 손에 들어갔을 때 발생할 상황에 대해 우려를 표명한다고 말합니다.

“데이터가 기기에 남아 있을 수는 있지만, 그렇다고 해서 사람들이 그 데이터에 접근할 수 없는 것은 아닙니다. 시크릿 모드를 사용하거나 기록을 지우더라도 자신을 보호할 옵션이 없습니다. 왜냐하면 이 도구는 화면에 표시된 모든 것에 접근할 수 있기 때문입니다.”

젠 골벡(Jen Golbeck)

골벡은 Recall 기능이 특정 사용자에게 위험을 초래할 수 있는 사례를 지적합니다. 예를 들어 위험한 환경에서 근무하는 기자나 학대 피해자들이 해당됩니다. Recall이 사용자 설정과 차단 목록 기능을 제공하지만, 반대자들은 이 기능이 여전히 일부 경우 사용자의 프라이버시에 위협이 될 수 있다고 믿습니다.

함께 읽기: EU, AI 정보 문제로 마이크로소프트에 수십억 달러 벌금 부과 가능성

영국 감시 기관, 프라이버시 관행에 대한 공식 조사 착수

영국 정보위원회(ICO)는 최근 Recall에 대한 사용자 보호 준수 수준을 확인하기 위한 조사를 개시했습니다. 소비자의 행동이 지속적으로 기록될 수 있다는 전망은 우려를 불러일으켰으며, ICO 대변인은 기업들이 “사람들의 권리와 자유에 대한 위험을 엄격히 평가하고 완화해야 한다”고 말했습니다.

월스트리트저널과의 인터뷰 에서 마이크로소프트 CEO 사티나 데발라는 리콜이 사용자의 컴퓨터에서만 로컬로 작동하며 스크린샷이 마이크로소프트로 전송되지 않는다고 밝힘으로써 사용자들의 우려를 해소하려 했습니다. CCS 인사이트의 제프 블레이버와 같은 일부 전문가들은 프라이버시 문제가 과장되었으며, 기기에 보안 조치가 마련되어 있을 경우 사용자가 자신의 데이터를 더 잘 통제할 수 있다고 믿는 반면, 다른 이들은 회의적인 시각을 보이고 있습니다.

함께 읽기: 마이크로소프트의 새로운 접근성 컨트롤러, 가격 논란 촉발

마이크로소프트는 리콜 발표에서 이 기능이 로컬에서 작동하며, AI 처리가 보안 강화를 위해 기기에서 수행되고 사적인 브라우징 화면은 캡처되지 않는다고 강조했습니다. 월요일 기능 공개 시 마이크로소프트는 블로그를 통해 “리콜은 사용자의 개인 시맨틱 인덱스를 활용하며, 이는 기기에 완전히 구축되고 저장됩니다”라고 밝혔습니다.

악의적 악용 가능성에 대한 논쟁 격화

ABI Research의 수석 연구 디렉터인 미켈라 멘팅(Michela Menting)은 이 기능이 프라이버시에 있어 “후퇴”라고 평가했습니다.

“해커들이 Recall을 조작하려면 물리적 접근이 필요하다는 주장은 최선으로도 안목이 부족합니다. 위협 행위자들이 이처럼 가치 있는 도구를 활용할 수 있는 방법은 매우 다양하고 기발하기 때문입니다.”

크립토폴리탄이 이전에 보도했듯이, 마이크로소프트가 지원한 AI 기업 오픈AI는 새로운 버전의 ChatGPT에 할리우드 여배우 스칼렛 요한슨과 remarkably 유사한 음성을 제공한 후 반발을 맞았습니다.

크립토폴리탄 브렌다 카나나(Brenda Kanana) 보도