Los gigantes chinos de teléfonos inteligentes están redefiniendo la IA: a costa de tu privacidad

Los fabricantes chinos de teléfonos inteligentes tienen la intención de reemplazar la navegación manual de aplicaciones con operaciones sin manos y fluidas que utilizan modelos de IA. Esta tecnología promete una facilidad inigualable, pero plantea preguntas sobre el control del usuario sobre los dispositivos y las aplicaciones.

Jugadores locales como Xiaomi, Vivo, Oppo y Honor están involucrados en esta agenda. El eslogan de Honor, “Cuanta más IA, más te entiende”, captura tanto el potencial como el riesgo de esta transformación. 

Este es el peligro: si la toma de decisiones impulsada por IA se basa en datos personales recopilados sin consentimiento explícito, se convierte en menos sobre mejorar la experiencia del usuario y más sobre vigilancia intrusiva.

Aparentemente, durante el lanzamiento de Magic 7 en octubre de 2024, el CEO George Zhao usó el teléfono para pedir 2.000 tazas de café en vivo en el escenario sin requerir un solo toque. La audiencia quedó atónita, pero surgieron preguntas: ¿Cómo supo la tecnología las preferencias de Zhao, seleccionó la aplicación y autorizó el pago? 

Esta demostración notable de conveniencia plantea un enfrentamiento con un problema crítico: ¿En qué medida esta innovación compromete la autonomía y la privacidad del usuario? El desempeño en vivo de George Zhao solo habría sido posible si el teléfono accediera a datos privados para seguir comandos. ¿Qué es más importante para los usuarios, la conveniencia o la privacidad?

¿Hasta dónde llega el riesgo de invasión de la privacidad?

Un examen de Magic 7 demostró que explota los permisos de accesibilidad de Android. Esta función está destinada a ayudar a usuarios con discapacidades. Honor y ciertas otras empresas tecnológicas chinas obtienen acceso a datos sensibles del usuario de maneras que son tanto opacas como no reguladas, eludiendo los procesos tradicionales de consentimiento.

La toma de decisiones impulsada por IA podría ser fácilmente utilizada como arma si los teléfonos terminan en manos equivocadas. En segundo lugar, los hackers podrían explotar estos sistemas para acceder a los datos financieros de los usuarios, mensajes e incluso fotografías privadas. La conveniencia de la tecnología inteligente corre el riesgo de convertirse en un instrumento de vigilancia y control si no hay salvaguardas robustas en su lugar.

Las implicaciones no podrían ser más serias. Si se deja sin control, la trayectoria actual podría llevar a un futuro donde los teléfonos celulares no solo sirvan a sus usuarios, sino que también monitoreen, gestionen y comercialicen sus acciones sin su conocimiento.

Cabe destacar que el desafío para ambos fabricantes y reguladores es equilibrar la responsabilidad con la innovación. La pregunta no es si la IA dominará nuestros dispositivos; ya lo hace. Sin embargo, el potencial de los dispositivos impulsados por la tecnología inteligente es innegable. Estos dispositivos tienen la capacidad de revolucionar vidas simplificando las tareas diarias y mejorando la accesibilidad.

Mientras tanto, Apple introdujo Apple Intelligence en junio de 2024, un sistema de IA en el dispositivo que transformó Siri en un asistente más intuitivo. Sin embargo, la acción “revolucionaria” de Apple en China no logró generar un impacto significativo.  

¿Qué dice la ley sobre las invasiones de privacidad?

Las invasiones de privacidad no son legales. De hecho, en 2021, los desarrolladores de aplicaciones chinos fueron sometidos a acciones legales. Se les acusó de desarrollar herramientas que explotaban permisos para interceptar transacciones digitales. 

Además, durante las celebraciones del Año Nuevo Lunar, aplicaciones como Red Packet Hunter interceptaron automáticamente los sobres rojos de WeChat. Los desarrolladores recibieron multas e incluso sentencias de prisión después de que el tribunal determinara que estas acciones violaban las leyes de competencia.

También, a diferencia de las empresas chinas que han aceptado estos riesgos como parte del proceso creativo, los competidores occidentales caminan con cuidado. Por ejemplo, Microsoft enfrentó críticas por su función Recall a principios de este año. Esto se debe a que utiliza capturas de pantalla periódicas para evaluar el comportamiento del usuario y recomendar acciones.

Los críticos compararon la función con una pesadilla orwelliana, lo que llevó a líderes tecnológicos como Elon Musk a pedir su eliminación. Los profesionales de la ciberseguridad advirtieron que estas capacidades podrían ser explotadas para facilitar la vigilancia.