Может ли технология сканирования звонков от Google привести к цензуре по умолчанию?

В попытке защитить пользователей Android от телефонных мошенников, Google разрабатывает новые меры безопасности. По словам вице-президента Google по разработке Дэйва Берка, Googledent технологию, использующую искусственный интеллект дляdentзакономерностей, связанных с мошенничеством, и оповещения пользователей телефонов Android о подозрениях на совершение мошеннических действий. 

Во вторник на конференции разработчиков I/O компания Google сообщила о разработке новой функции мониторинга звонков, которая будет предупреждать пользователей о возможности мошенничества со стороны собеседника и предлагать им отменить разговор.

Google гарантирует пользователям безопасность их данных

По данным Google, эта функция использует Gemini Nano, уменьшенную, локальную и автономную языковую модель для смартфонов Android, основанную на большой языковой модели Gemini. 

Компания заявила, что

«Вся эта защита осуществляется на самом устройстве, поэтому ваши разговоры остаются конфиденциальными»

Звонки от «представителей банка», которые запрашивают информацию, которую законные банки никогда бы не стали запрашивать — например, ваши пароли или PIN-коды кредитных карт, — или требуют оплаты подарочными картами или срочных денежных переводов, — это лишь несколько примеров того, что может вызвать подобные оповещения. 

Google утверждает, что, поскольку все эти новые меры безопасности внедрены непосредственно в устройство, разговоры, которые прослушивает Gemini Nano, останутся секретными.

Мнения экспертов по вопросам конфиденциальности расходятся

Использование компанией генеративного искусственного интеллекта для сканирования в реальном времени с целью выявления закономерностей, связанных с мошенничеством во время голосовых звонков, вызвало обеспокоенность у экспертов в области безопасности и конфиденциальности. 

Читайте также: Впечатляющая демонстрация Gemini AI на Google I/O

Эксперты опасаются, что послеdentмошеннических схем вскоре они обнаружат тенденции, связанные с политическими взглядами, проблемами прав человека или личными трудностями, возникающими у людей на работе.

Разработчик и инженер безопасных решений на основе ИИ Андрей опубликовал на платформе X пост, поделившись постом Мередит Уиттакер, в котором рассказал, что инструмент сканирования звонков на основе ИИ от Google вызвал у него разногласия. Он добавил, что, хотя он ценит защиту от мошенничества, какой ущерб это наносит его конфиденциальности? 

Он сказал, что является специалистом по кибербезопасности, поэтому ему известно, как легко сканирование на стороне клиента может перерасти в мониторинг.

Эксперты предсказывают, что это лишь верхушка айсберга, и в будущем это перерастет в централизованную цензуру.

Совместимость Gemini Nano ограничена

Хотя Google заявляет, что для использования функции обнаружения мошенничества клиентам потребуется дать согласие, компания утверждает, что раскроет дополнительные подробности позже в этом году. Пока нет информации о том, когда эта функция станет доступна. 

Читайте также: Google Photos получит функцию «Задать вопрос фотографиям» на основе ИИ благодаря интеграции с Gemini.

Следовательно, совместимость может ограничивать круг заявителей, для которых такая технология будет полезна. На сайте Gemini Nano указано следующее:

«Gemini Nano, самая компактная версия семейства моделей Gemini, может быть установлена ​​на совместимых устройствах Android, начиная с Google Pixel 8 Pro и серии Samsung S24»

Всегда есть вероятность стать жертвой мошенничества, даже если некоторым людям легко распознать его благодаря многолетним усилиям по повышению осведомленности и доступным советам о том, как его избежать. 

Согласно опросу, опубликованному Глобальным альянсом по борьбе с мошенничеством в октябре прошлого года, каждый четвертый человек в мире потерял более 1 триллиона долларов из-за мошенничества или кражиdentданных за предыдущий год.

Репортаж Аамира Шейха для издания Cryptopolitan