La nueva función de inteligencia artificial de Microsoft, Recall, genera preocupaciones sobre la privacidad

La nueva función "Recall" de Microsoft para Windows, impulsada por IA, que guarda todo lo que se muestra en la pantalla del usuario, está generando un intenso debate sobre la privacidad. A diferencia de las búsquedas tradicionales por palabras clave, Recall captura regularmente capturas de pantalla de la pantalla del usuario y las almacena localmente en el dispositivo. 

Lea también: Microsoft integra Copilot AI en juegos de Xbox y PC

Las capturas de pantalla obtenidas se analizan luego mediante inteligencia artificial para que el contenido se pueda buscar y recuperar cuando se desee.  

Los defensores de la privacidad alertan sobre riesgos de “pesadilla”

Jen Golbeck, profesora de IA en la Universidad de Maryland, dice que le preocupa lo que sucedería si Recall cayera en las manos equivocadas.

“La información puede permanecer en tu dispositivo, pero eso no significa que la gente no pueda acceder a ella. No tendrás una opción para protegerte incluso si usas el modo incógnito o borras tu historial porque la herramienta tiene acceso a todo lo que ha estado en tu pantalla”

Jen Golbeck

Golbeck señala casos en los que la función podría suponer ciertos riesgos para los usuarios, por ejemplo, periodistas que trabajan en condiciones peligrosas o víctimas de abuso. Si bien Recall ofrece opciones de personalización y de inclusión en listas negras, quienes se oponen a ella creen que, en algunos casos, puede suponer una amenaza para la privacidad del usuario.

Lea también: La UE podría multar a Microsoft con miles de millones de dólares por información de IA

El organismo de control del Reino Unido inicia una investigación formal sobre prácticas de privacidad

La Oficina del Comisionado de Información del Reino Unido (ICO) ha abierto recientemente una investigación contra Recall para determinar el grado de cumplimiento de la empresa con la protección del usuario. La posibilidad de que el comportamiento de los consumidores se registre constantemente ha generado preocupación, y un portavoz de la ICO ha declarado que las empresas deben "evaluar y mitigar rigurosamente los riesgos para los derechos y libertades de las personas".

En una entrevista con el Wall Street Journal, el director ejecutivo de Microsoft, Satya Nadella, intentó tranquilizar a los usuarios afirmando que Recall solo funciona localmente en el ordenador del usuario y que las capturas de pantalla no se envían a Microsoft. Algunos expertos, como Geoff Blaber de CCS Insight, creen que las preocupaciones sobre la privacidad están sobrevaloradas y que los usuarios tienen mayor control sobre sus datos cuando el dispositivo cuenta con medidas de seguridad, mientras que otros se muestran escépticos.

Lea también: El nuevo controlador de accesibilidad de Microsoft provoca reacciones negativas en los precios.

En el anuncio de Recall, Microsoft enfatizó que la función opera localmente, con el procesamiento de IA realizado en el dispositivo para mejorar la seguridad, y que no capturará imágenes de la navegación privada. Al presentar la función el lunes, Microsoft publicó en su blog: "Recall aprovecha tu índice semántico personal, creado y almacenado completamente en tu dispositivo".

Se intensifica el debate sobre el potencial de explotación maliciosa

Michela Menting, directora de investigación senior de ABI Research, dijo que la función es un “paso atrás” en materia de privacidad.

“El argumento de que los hackers necesitan acceso físico para siquiera poder manipular Recall es, en el mejor de los casos, miope, porque hay muchas formas muy ingeniosas en las que los actores de amenazas podrían explotar una herramienta tan valiosa”

Como informó anteriormente Cryptopolitan, la empresa de inteligencia artificial OpenAI, respaldada por Microsoft, enfrentó una reacción violenta después de lanzar una voz para su nueva versión de ChatGPT que es notablemente similar a la actriz de Hollywood Scarlett Johansson.

Cryptopolitan de Brenda Kanana