Китайские гиганты смартфоновdefiискусственный интеллект — ценой вашей конфиденциальности

Китайские производители смартфонов намерены заменить ручную навигацию по приложениям на бесконтактное, удобное управление с использованием моделей искусственного интеллекта. Эта технология обещает беспрецедентную простоту, но поднимает вопросы о контроле пользователя над устройствами и приложениями.

участвуют такие местные игроки, как Xiaomi, Vivo, Oppo и Honor программе. Слоган Honor: «Чем больше ИИ, тем лучше он вас понимает», отражает как потенциал, так и риски этой трансформации. 

В этом и заключается опасность: если принятие решений с помощью ИИ основано на персональных данных, собранных без явного согласия, это перестает быть улучшением пользовательского опыта и становится больше похоже на навязчивое наблюдение.

По всей видимости, во время презентации Magic 7 в октябре 2024 года генеральный директор Джордж Чжао использовал телефон, чтобы заказать 2000 чашек кофе прямо на сцене, не сделав ни единого касания. Публика была поражена, но вопросы оставались: как технология узнала предпочтения Чжао, выбрала приложение и авторизовала платеж? 

Эта впечатляющая демонстрация удобства ставит перед нами важную проблему: в какой степени это нововведение ставит под угрозу автономию и конфиденциальность пользователей? Живое выступление Джорджа Чжао стало возможным только в том случае, если бы телефон имел доступ к личным данным для выполнения команд. Что важнее для пользователей: удобство или конфиденциальность?

Насколько велик риск нарушения неприкосновенности частной жизни?

Анализ Magic 7 показал, что он использует уязвимости в системе специальных возможностей Android. Эта функция предназначена для помощи пользователям с ограниченными возможностями. Honor и некоторые другие китайские технологические компании получают доступ к конфиденциальным данным пользователей непрозрачными и нерегулируемыми способами, обходя традиционные процедуры получения согласия.

Принятие решений на основе ИИ может быть легко использовано в качестве оружия, если телефоны попадут в чужие руки. Во-вторых, хакеры могут использовать эти системы для получения доступа к финансовым данным пользователей, сообщениям и даже личным фотографиям. Удобство интеллектуальных технологий рискует превратиться в инструмент слежки и контроля, если не будут приняты надежные меры защиты.

Последствия крайне серьезны. Если не принять меры, нынешняя тенденция может привести к будущему, в котором мобильные телефоны будут не только служить своим пользователям, но и отслеживать, управлять и коммерциализировать их действия без их ведома.

Примечательно, что задача как для производителей, так и для регулирующих органов состоит в том, чтобы найти баланс между ответственностью и инновациями. Вопрос не в том, будет ли ИИ доминировать в наших устройствах; он уже доминирует. Тем не менее, потенциал устройств, работающих на основе интеллектуальных технологий, неоспорим. Эти устройства способны произвести революцию в жизни, упростив повседневные задачи и улучшив доступность.

Между тем, в июне 2024 года Apple представила Apple Intelligence — встроенную систему искусственного интеллекта, которая превратила Siri в более интуитивно понятного помощника. Тем не менее, «революционные» действия Apple в Китае не принесли значительного результата.  

Что говорит закон о нарушении права на неприкосновенность частной жизни?

Нарушения конфиденциальности незаконны. В 2021 году китайские разработчики приложений подверглись судебному преследованию. Их обвинили в разработке инструментов, которые использовали разрешения для перехвата цифровых транзакций. 

Кроме того, во время празднования Нового года по лунному календарю такие приложения, как Red Packet Hunter,maticперехватывали красные конверты в WeChat. Разработчики были оштрафованы и даже приговорены к тюремному заключению после того, как суд установил, что эти действия нарушают антимонопольное законодательство.

Кроме того, в отличие от китайских компаний, которые приняли эти риски как часть творческого процесса, западные конкуренты действуют осторожно. Например, Microsoft подверглась критике за свою функцию «Отзыв» в начале этого года. Это связано с тем, что она использует периодические снимки экрана для оценки поведения пользователей и выработки рекомендаций.

Критики сравнили эту функцию с кошмаром из произведений Оруэлла, что побудило таких технологических лидеров, как Илон Маск, призвать к ее удалению. Специалисты по кибербезопасности предупредили, что эти возможности могут быть использованы для осуществления слежки.