Может ли сканирующий звонки ИИ от Google привести к цензуре по умолчанию?

В попытке защитить пользователей Android от телефонных мошенников Google разрабатывает новые средства защиты. Google тестирует технологию, которая использует искусственный интеллект для выявления паттернов, связанных с мошенничеством, и уведомляет пользователей телефонов Android, когда подозреваются мошеннические действия, согласно вице-президенту Google по инженерии Дэйву Берку. 

Google объявил во вторник на конференции разработчиков I/O, что разрабатывает новую функцию мониторинга звонков, которая будет предупреждать пользователей о возможности того, что человек, с которым они разговаривают, вероятно, пытается их обмануть, и предложит им прервать такой разговор.

Google гарантирует пользователям, что их данные будут в безопасности

По словам Google, эта функция использует Gemini Nano, уменьшенную локальную и офлайн языковую модель для смартфонов Android, основанную на большой языковой модели Gemini компании. 

Компания сказала, что

«Эта защита происходит полностью на устройстве, поэтому ваш разговор остается приватным только для вас.»

Звонки от «представителей банков», которые просят вещи, которые настоящие банки никогда не спросят, — например, ваши пароли или PIN-коды кредитных карт, — или требуют оплаты подарочными картами или срочными денежными переводами, являются примерами того, что может вызвать эти предупреждения. 

Google утверждает, что поскольку все эти новые средства защиты находятся на устройстве, разговоры, которые прослушивает Gemini Nano, останутся секретными.

Эксперты по приватности настороже

Использование компанией генеративного искусственного интеллекта для сканирования в реальном времени для выявления паттернов, связанных с мошенничеством, во время голосовых звонков обеспокоило экспертов в области безопасности и приватности. 

Также читайте: Впечатляющая демонстрация Gemini AI на Google I/O

Эксперты опасаются, что после выявления мошенничества пройдет не так много времени, прежде чем они начнут замечать тенденции, связанные с политическими предпочтениями, вопросами прав человека или личными трудностями, связанными с работой людей.

Дизайнер решений по безопасности ИИ и инженер Андрий опубликовал на платформе X, поделившись постом Мередит Уиттакер, сказав, что инструмент сканирования звонков Google на базе ИИ разделил его мнение. Он сказал, что, хотя он ценит защиту от мошенничества, какой ценой для его приватности? 

Он сказал, что он специалист по кибербезопасности, поэтому он знает, как легко сканирование на стороне клиента может превратиться в мониторинг.

Эксперты предсказывают, что это только верхушка айсберга, и на самом деле то, что произойдет, — это развитие в централизованную цензуру в будущем.

Совместимость Gemini Nano ограничена

Хотя Google говорит, что клиентам придется явно согласиться на использование функции обнаружения мошенничества, он утверждает, что раскроет дополнительные детали в конце этого года. Нет слов о том, когда функция станет доступной. 

Также читайте: Google Photos получит функцию «Ask Photos» на базе ИИ с интеграцией Gemini

Следовательно, совместимость может ограничивать круг заявителей, для которых такая технология полезна. Веб-сайт поддержки разработчиков Gemini Nano гласит, что

«Gemini Nano, самая маленькая версия семейства моделей Gemini, может выполняться на устройстве на совместимых устройствах Android, начиная с Google Pixel 8 Pro и Samsung S24 Series.»

Всегда есть шанс стать жертвой мошенничества, даже если некоторые люди могут легко заметить их после лет усилий по повышению осведомленности и легкодоступных советов о том, как их избежать. 

Согласно опросу, опубликованному Глобальным альянсом по борьбе с мошенничеством в октябре прошлого года, 1 из 4 человек во всем мире потерял более 1 триллиона долларов в результате мошенничества или кражи личных данных за предыдущий год.

Материал Cryptopolitan от Амира Шейха