中国智能手机巨头正在重新定义AI——以牺牲你的隐私为代价

中国智能手机制造商打算用无需动手、无缝操作的AI模型取代手动应用导航。这项技术承诺无与伦比的便捷性，但也引发了关于用户对设备和应用控制权的疑问。

小米、Vivo、Oppo和Honor等本地参与者都参与了这一 议程. Honor的标语， “AI越多，它越了解你”，捕捉到了 这一转型的潜力和风险。 

这就是危险所在：如果基于未经明确同意收集的个人数据进行AI驱动决策，那么这就不再仅仅是提升用户体验，而是变成了侵入式监控。

显然，在2024年10月Magic 7发布期间，CEO赵明在舞台上现场使用手机订购了2000杯咖啡，无需点击一次。观众惊叹不已，但疑问依然存在：技术是如何知道赵明的偏好、选择应用程序并授权支付的？ 

这种令人惊叹的便利性展示促使人们面对一个关键问题：这种创新在多大程度上损害了用户自主权和隐私？赵明的现场表演只有在手机访问私人数据以执行命令的情况下才可能实现。对用户来说，便利性还是隐私更重要？

隐私侵犯的风险有多大？

对Magic 7的检查表明，它利用了Android的辅助功能权限。该功能旨在帮助残障人士。Honor和某些其他中国科技公司通过绕过传统同意流程，以不透明且不受监管的方式获取敏感用户数据。

如果手机落入不法分子手中，由人工智能驱动的决策能力可能会被轻易武器化。其次，黑客可能利用这些系统获取用户的财务数据、消息甚至私人照片。如果没有健全的安全保障措施，智能技术的便利性可能会沦为监控和控制的工具。

其影响不容小觑。如果放任不管，当前的发展轨迹可能导致这样一个未来：手机不仅服务于用户，还会在用户不知情的情况下监控、管理并商业化他们的行为。

值得注意的是，制造商和监管机构面临的挑战在于如何平衡责任与创新。问题不在于人工智能是否会主导我们的设备；它已经做到了。然而，由智能技术驱动的设备潜力是毋庸置疑的。这些设备有能力通过简化日常任务和改善无障碍性来彻底改变人们的生活。

与此同时，苹果推出了 Apple Intelligence 于2024年6月推出的一项设备端人工智能系统，将Siri转变为更直观的助手。尽管如此，苹果在中国推出的这项“革命性”举措并未产生重大影响。  

法律对侵犯隐私的行为有何规定？

侵犯隐私的行为是非法的。事实上，在2021年，中国应用开发者因开发利用权限拦截数字交易的工具而受到法律制裁。 

此外，在农历新年庆祝活动期间，如“红包猎手”等应用程序会自动拦截微信红包。法院裁定这些行为违反了竞争法，开发者因此被处以罚款甚至监禁。

此外，与中国企业将这些风险视为创作过程的一部分不同，西方竞争对手则小心翼翼。例如，微软今年早些时候因其“回忆”（Recall）功能受到批评。该功能使用定期截图来评估用户行为并推荐操作。

批评者将该功能比作奥威尔式的噩梦，促使埃隆·马斯克等科技领袖呼吁将其移除。网络安全专业人士警告称，这些功能可能被利用以协助监控。