Новая функция ИИ Microsoft, Recall, вызывает опасения по поводу конфиденциальности

Новая функция «Recall» на базе ИИ от Microsoft для Windows, которая сохраняет все, что отображается на экране пользователя, вызывает жаркие дебаты о конфиденциальности. В отличие от традиционного поиска по ключевым словам, Recall регулярно делает скриншоты экрана пользователя и хранит их локально на устройстве. 

Также читайте: Microsoft интегрирует ИИ Copilot в игры для Xbox и ПК

Полученные скриншоты затем анализируются с помощью искусственного интеллекта, чтобы сделать содержимое доступным для поиска и извлечения по запросу.  

Защитники конфиденциальности бьют тревогу по поводу рисков «кошмара»

Джен Голбек, профессор искусственного интеллекта в Университете Мэриленда, говорит, что у нее есть опасения по поводу того, что произойдет, если Recall попадет не в те руки.

«Вещи могут оставаться на вашем устройстве, но это не значит, что люди не смогут до них добраться. У вас не будет возможности защитить себя, даже если вы используете режим инкогнито или очищаете историю, потому что инструмент имеет доступ ко всему, что было на вашем экране».

Джен Голбек

Голбек указывает на случаи, когда функция может представлять определенные риски для пользователей, например, для журналистов, работающих в опасных условиях, или жертв насилия. Хотя Recall предоставляет возможности для настройки и черного списка, противники считают, что он все еще может представлять угрозу конфиденциальности пользователей в некоторых случаях.

Также читайте: ЕС может оштрафовать Microsoft на миллиарды долларов из-за информации об ИИ

Британский надзорный орган запускает официальное расследование практик конфиденциальности

Управление комиссара по информации Великобритании (ICO) недавно открыло расследование в отношении Recall, чтобы определить уровень соответствия компании защите пользователей. Перспектива постоянного записи поведения потребителей вызвала обеспокоенность, и представитель ICO заявил, что компании должны «тщательно оценивать и смягчать риски для прав и свобод людей».

В интервью Wall Street Journal генеральный директор Microsoft Сатья Наделла попытался успокоить опасения пользователей, заявив, что Recall работает только локально на компьютере пользователя и что скриншоты не отправляются в Microsoft. Некоторые эксперты, такие как Джефф Блэйбер из CCS Insight, считают, что проблемы конфиденциальности преувеличены, и пользователи больше контролируют свои данные, когда устройство имеет меры безопасности, в то время как другие относятся к этому скептически.

Также читайте: Новый контроллер доступности Microsoft вызывает backlash по поводу ценообразования

В объявлении о Recall Microsoft подчеркнула, что функция работает локально, обработка ИИ выполняется на устройстве для повышения безопасности, и она не будет захватывать снимки приватного просмотра. При представлении функции в понедельник Microsoft написала в блоге: «Recall использует ваш личный семантический индекс, созданный и хранящийся исключительно на вашем устройстве».

Дебаты усиливаются из-за потенциала злонамеренного использования

Микела Ментинг, старший директор по исследованиям в ABI Research, сказала, что функция является «шагом назад» для конфиденциальности.

«Аргумент о том, что хакерам нужен физический доступ, чтобы даже иметь возможность манипулировать Recall, является кратковидным по меньшей мере, потому что существует множество высокоизобретательных способов, которыми злоумышленники могут использовать такой ценный инструмент».

Как ранее сообщалось в Cryptopolitan, поддерживаемая Microsoft компания OpenAI столкнулась с критикой после выпуска голоса для своей новой версии ChatGPT, который поразительно похож на голос голливудской актрисы Скарлетт Йоханссон.

Cryptopolitan Репортаж Бренды Канааны