마이크로소프트의 새로운 AI 기능 '리콜'이 개인정보 보호 문제를 제기하고 있다

사용자 화면에 표시되는 모든 내용을 저장하는 마이크로소프트의 새로운 AI 기반 윈도우용 "리콜(Recall)" 기능이 개인정보 보호와 관련된 뜨거운 논쟁을 불러일으키고 있습니다. 기존 키워드 검색과 달리, 리콜 기능은 사용자 화면의 스크린샷을 정기적으로 캡처하여 기기에 로컬로 저장합니다. 

관련 기사: 마이크로소프트, Xbox 및 PC 게임에 Copilot AI 통합

획득한 스크린샷은 인공지능을 사용하여 분석되어 명령에 따라 콘텐츠를 검색하고 검색할 수 있게 됩니다.  

개인정보보호 옹호자들, "악몽" 위험에 경고

메릴랜드 대학의 AI 교수인 젠 골벡은 Recall이 잘못된 사람의 손에 들어가면 어떤 일이 일어날지 우려한다고 말했습니다 .

"정보가 기기에 남아 있을 수 있지만, 다른 사람이 그 정보에 접근할 수 없다는 의미는 아닙니다. 시크릿 모드를 사용하거나 기록을 지우더라도 자신을 보호할 수 있는 옵션이 없습니다. 이 도구는 화면에 표시된 모든 내용에 접근할 수 있기 때문입니다."

젠 골벡

골벡은 이 기능이 사용자에게 특정 위험을 초래할 수 있는 사례, 예를 들어 위험한 환경에서 일하는 언론인이나 학대 피해자를 지적합니다. 리콜(Recall) 기능이 사용자 설정 및 블랙리스트 기능을 제공하지만, 반대론자들은 여전히 ​​경우에 따라 사용자 개인 정보 보호에 위협이 될 수 있다고 주장합니다.

또한 읽어보세요: EU, AI 정보 유출로 마이크로소프트에 수십억 달러 벌금 부과할 수도

영국 감시기관, 개인정보보호 관행에 대한 공식 조사 시작

영국 정보 감독청(ICO)은 최근 리콜(Recall)의 사용자 보호 규정 준수 여부를 확인하기 위한 조사에 착수했습니다. 소비자 행동이 지속적으로 기록될 가능성에 대한 우려가 제기되는 가운데, ICO 대변인은 기업들이 "개인의 권리와 자유에 대한 위험을 엄격하게 평가하고 완화해야 한다"고 밝혔습니다.

월스트리트 저널과의 인터뷰 에서 마이크로소프트 CEO 사티아 나델라는 리콜 기능이 사용자의 컴퓨터에서만 로컬로 작동하며 스크린샷이 마이크로소프트로 전송되지 않는다고 밝히며 사용자들의 우려를 불식시키려 했습니다. CCS Insight의 제프 블레이버와 같은 일부 전문가들은 개인정보 보호 문제가 과장되었으며 기기에 보안 조치가 탑재되면 사용자가 자신의 데이터를 더 잘 제어할 수 있다고 주장하는 반면, 다른 전문가들은 회의적인 시각을 보이고 있습니다

관련 기사: 마이크로소프트의 새로운 접근성 컨트롤러, 가격 책정으로 반발 불러일으켜

리콜(Recall) 기능 발표에서 마이크로소프트는 강조했습니다 . 마이크로소프트는 월요일에 이 기능을 공개하면서 블로그에 "리콜은 기기 내에 완전히 구축되고 저장된 개인 의미 인덱스를 활용합니다."라고 설명했습니다.

악의적 악용 가능성에 대한 논쟁이 심화되고 있습니다.

ABI Research의 수석 연구 책임자인 미켈라 멘팅은 이 기능이 개인정보 보호 측면에서 "후퇴한 조치"라고 말했습니다.

해커가 리콜을 조작하려면 물리적 접근이 필요하다는 주장은 근시안적일 뿐입니다. 위협 행위자가 이처럼 귀중한 도구를 악용할 수 있는 매우 독창적인 방법이 많이 있기 때문입니다.

이전에 보도한 바와 같이 Cryptopolitan, 마이크로소프트의 지원을 받는 AI 기업 오픈아이(OpenAI)는 새로운 버전의 챗GPT에 탑재된 음성이 할리우드 배우 스칼렛 요한슨과 매우 유사하다는 이유로 비난을 받았습니다

Brenda Kanana의 Cryptopolitan 보고