La nueva función de IA de Microsoft, Recall, genera preocupaciones sobre la privacidad

La nueva función de IA de Microsoft llamada "Recall" para Windows, que guarda todo lo que se muestra en la pantalla de un usuario, está generando debates acalorados sobre la privacidad. A diferencia de las búsquedas tradicionales por palabras clave, Recall captura regularmente capturas de pantalla de la pantalla del usuario y las almacena localmente en el dispositivo. 

También leer: Microsoft integra la IA Copilot en los juegos de Xbox y PC

Las capturas de pantalla obtenidas se analizan luego usando inteligencia artificial para hacer que el contenido sea buscable y recuperable bajo demanda.  

Defensores de la privacidad suenan la alarma sobre riesgos de "pesadilla"

Jen Golbeck, profesora de IA en la Universidad de Maryland, dice que tiene preocupaciones sobre lo que sucedería si Recall cayera en manos equivocadas.

"Las cosas pueden permanecer en tu dispositivo, pero eso no significa que la gente no pueda acceder a ellas; no tendrás una opción para protegerte incluso si usas el modo incógnito o borras tu historial porque la herramienta tiene acceso a todo lo que ha estado en tu pantalla."

Jen Golbeck

Golbeck señala casos en los que la función puede representar ciertos riesgos para los usuarios, por ejemplo, periodistas que trabajan en condiciones peligrosas o víctimas de abuso. Aunque Recall proporciona opciones de personalización y listas negras, los oponentes creen que aún puede representar una amenaza para la privacidad de los usuarios en algunos casos.

También leer: La UE podría multar a Microsoft con miles de millones de dólares por información de IA

El organismo de vigilancia del Reino Unido lanza una investigación formal sobre prácticas de privacidad

La Oficina del Comisionado de Información del Reino Unido (ICO) ha abierto recientemente una investigación contra Recall para determinar el nivel de cumplimiento de la firma con la protección de los usuarios. La perspectiva de que el comportamiento de los consumidores se grabe constantemente ha generado preocupaciones, con un portavoz de la ICO diciendo que las empresas deben "evaluar y mitigar rigurosamente los riesgos para los derechos y libertades de las personas".

En una entrevista con el Wall Street Journal, el CEO de Microsoft, Satya Nadella, buscó calmar las preocupaciones de los usuarios afirmando que Recall solo funciona localmente en la computadora de un usuario y que las capturas de pantalla no se envían a Microsoft. Algunos expertos, como Geoff Blaber de CCS Insight, creen que los problemas de privacidad están sobrevalorados y que los usuarios tienen más control sobre sus datos mientras el dispositivo tenga medidas de seguridad, mientras que otros son escépticos.

También leer: El nuevo controlador de accesibilidad de Microsoft genera rechazo por precios

En el anuncio de Recall, Microsoft enfatizó que la función opera localmente, con el procesamiento de IA realizado en el dispositivo para mejorar la seguridad, y no capturará imágenes de navegación privada. Al presentar la función el lunes, Microsoft escribió en su blog: "Recall aprovecha tu índice semántico personal, construido y almacenado completamente en tu dispositivo".

El debate se intensifica sobre el potencial de explotación maliciosa

Michela Menting, directora senior de investigación en ABI Research, dijo que la función es un "paso atrás" para la privacidad.

"El argumento de que los hackers necesitan acceso físico incluso para poder manipular Recall es miope como mucho, porque hay muchas formas altamente ingeniosas en que los actores de amenazas podrían explotar una herramienta tan valiosa."

Como se informó anteriormente por Cryptopolitan, la firma de IA respaldada por Microsoft OpenAI enfrentó críticas después de lanzar una voz para su nueva versión de ChatGPT que es notablemente similar a la de la actriz de Hollywood Scarlett Johansson.

Cryptopolitan Reportaje de Brenda Kanana