Los gigantes de los teléfonos inteligentes de China estándefila IA, a costa de su privacidad

Los fabricantes chinos de smartphones pretenden sustituir la navegación manual de aplicaciones por operaciones fluidas y sin contacto que utilizan modelos de IA. Esta tecnología promete una facilidad inigualable, pero plantea dudas sobre el control del usuario sobre los dispositivos y las aplicaciones.

Empresas locales como Xiaomi, Vivo, Oppo y Honor participan en esta iniciativa. El lema de Honor, "Cuanto más IA, mejor te entiende", refleja tanto el potencial como el riesgo de esta transformación. 

Este es el peligro: si la toma de decisiones basada en IA se basa en datos personales recopilados sin consentimiento explícito, se trata menos de mejorar la experiencia del usuario y más de una vigilancia intrusiva.

Al parecer, durante el lanzamiento de Magic 7 en octubre de 2024, el director ejecutivo George Zhao usó el teléfono para pedir 2000 cafés en directo desde el escenario sin necesidad de tocarlo. El público quedó atónito, pero persistían las preguntas: ¿Cómo supo el técnico las preferencias de Zhao, seleccionó la aplicación y autorizó el pago? 

Esta notable demostración de conveniencia plantea un problema crítico: ¿Hasta qué punto esta innovación compromete la autonomía y la privacidad del usuario? La actuación en vivo de George Zhao solo habría sido posible si el teléfono accediera a datos privados para seguir órdenes. ¿Qué es más importante para los usuarios, la conveniencia o la privacidad?

¿Hasta dónde llega el riesgo de invasión de la privacidad?

Un análisis de Magic 7 demostró que explota los permisos de accesibilidad de Android. Esta función está diseñada para ayudar a los usuarios con discapacidades. Honor y otras empresas tecnológicas chinas obtienen acceso a datos confidenciales de los usuarios de forma opaca y sin regulación, eludiendo los procesos de consentimiento tradicionales.

La toma de decisiones basada en IA podría convertirse fácilmente en un arma si los teléfonos caen en las manos equivocadas. En segundo lugar, los hackers podrían explotar estos sistemas para acceder a los datos financieros, mensajes e incluso fotografías privadas de los usuarios. La comodidad de la tecnología de inteligencia artificial corre el riesgo de convertirse en un instrumento de vigilancia y control si no se implementan salvaguardas sólidas.

Las implicaciones no podrían ser más graves. Si no se controla, la trayectoria actual podría conducir a un futuro en el que los teléfonos celulares no solo servirán a sus usuarios, sino que también monitorearán, gestionarán y comercializarán sus acciones sin su conocimiento.

Cabe destacar que el desafío tanto para fabricantes como para reguladores es equilibrar la responsabilidad con la innovación. La pregunta no es si la IA dominará nuestros dispositivos; ya lo hace. Aun así, el potencial de los dispositivos impulsados ​​por esta tecnología inteligente es innegable. Estos dispositivos tienen la capacidad de revolucionar nuestras vidas al simplificar las tareas diarias y mejorar la accesibilidad.

Mientras tanto, en junio de 2024, Apple presentó Apple Intelligence , un sistema de IA integrado en los dispositivos que transformó a Siri en un asistente más intuitivo. Sin embargo, la iniciativa “revolucionaria” de Apple en China no logró generar un impacto significativo.  

¿Qué dice la ley sobre las invasiones a la privacidad?

Las invasiones de privacidad son ilegales. De hecho, en 2021, desarrolladores de aplicaciones chinos fueron objeto de acciones legales. Se les acusó de desarrollar herramientas que explotaban los permisos para interceptar transacciones digitales. 

Además, durante las celebraciones del Año Nuevo Lunar, aplicaciones como Red Packet Hunter interceptaronmaticlos sobres rojos de WeChat. Sus desarrolladores fueron multados e incluso condenados a prisión después de que el tribunal determinara que estas acciones violaban las leyes de competencia.

Además, a diferencia de las empresas chinas que han aceptado estos riesgos como parte del proceso creativo, los competidores occidentales actúan con cautela. Por ejemplo, Microsoft recibió críticas por su función "Recall" a principios de este año. Esto se debe a que utiliza capturas de pantalla periódicas para evaluar el comportamiento del usuario y recomendar acciones.

Los críticos compararon esta función con una pesadilla orwelliana, lo que llevó a líderes tecnológicos como Elon Musk a pedir su eliminación. Los profesionales de la ciberseguridad advirtieron que estas capacidades podrían explotarse para facilitar la vigilancia.