Новая функция искусственного интеллекта от Microsoft, Recall, вызывает опасения по поводу конфиденциальности

Новая функция Microsoft «Recall» для Windows, работающая на основе искусственного интеллекта и сохраняющая все, что отображается на экране пользователя, вызывает жаркие дебаты по поводу конфиденциальности. В отличие от традиционного поиска по ключевым словам, Recall регулярно делает снимки экрана пользователя и сохраняет их локально на устройстве. 

Читайте также: Microsoft интегрировала искусственный интеллект Copilot в игры для Xbox и ПК.

Полученные скриншоты затем анализируются с помощью искусственного интеллекта, чтобы сделать контент доступным для поиска и извлечения по запросу.  

Защитники конфиденциальности бьют тревогу по поводу «кошмарных» рисков

Джен Голбек, профессор искусственного интеллекта в Университете Мэриленда, говорит , что ее беспокоят последствия попадания программы Recall в чужие руки.

«Вещи могут оставаться на вашем устройстве, но это не значит, что к ним никто не сможет получить доступ. У вас не будет возможности защитить себя, даже если вы используете режим инкогнито или очищаете историю, потому что инструмент имеет доступ ко всему, что отображалось на вашем экране»

Джен Голбек

Голбек указывает на случаи, когда эта функция может представлять определенные риски для пользователей, например, для журналистов, работающих в опасных условиях, или жертв насилия. Хотя функция «Отзыв» предоставляет возможности для настройки и внесения в черный список, противники считают, что в некоторых случаях она все же может представлять угрозу для конфиденциальности пользователей.

Читайте также: ЕС может оштрафовать Microsoft на миллиарды долларов за использование информации об ИИ.

Британский надзорный орган начал официальное расследование в отношении практики защиты конфиденциальности

Управление комиссара по информации Великобритании (ICO) недавно начало расследование в отношении компании Recall с целью определения уровня соблюдения ею требований по защите прав пользователей. Перспектива постоянной регистрации поведения потребителей вызвала обеспокоенность, и представитель ICO заявил, что компании должны «тщательно оценивать и снижать риски для прав и свобод людей».

В интервью Wall Street Journal генеральный директор Microsoft Сатья Надела попытался развеять опасения пользователей, заявив, что функция Recall работает только локально на компьютере пользователя и что скриншоты не отправляются в Microsoft. Некоторые эксперты, такие как Джефф Блабер из CCS Insight, считают, что вопросы конфиденциальности преувеличены и пользователи лучше контролируют свои данные, пока устройство имеет меры безопасности, в то время как другие относятся к этому скептически.

Читайте также: Новый контроллер специальных возможностей от Microsoft вызвал критику в связи с ценообразованием.

В анонсе функции Recall компания Microsoft подчеркнула , что она работает локально, обработка данных с помощью ИИ выполняется на устройстве для повышения безопасности, и она не будет делать снимки приватного просмотра веб-страниц. При презентации функции в понедельник Microsoft написала в блоге: «Recall использует ваш личный семантический индекс, который полностью создается и хранится на вашем устройстве».

Дискуссия о потенциальной возможности злонамеренной эксплуатации набирает обороты

Микела Ментинг, старший директор по исследованиям в ABI Research, заявила, что эта функция является «шагом назад» в вопросах конфиденциальности.

«Утверждение о том, что хакерам необходим физический доступ, чтобы вообще иметь возможность манипулировать Recall, в лучшем случае недальновидно, поскольку существует множество весьма изобретательных способов, которыми злоумышленники могут использовать такой ценный инструмент в своих целях»

Как ранее сообщал Cryptopolitan, компания OpenAI, занимающаяся разработкой искусственного интеллекта и поддерживаемая Microsoft, столкнулась с критикой после того, как выпустила голос для своей новой версии ChatGPT, поразительно похожий на голос голливудской актрисы Скарлетт Йоханссон.

Cryptopolitan репортаж Бренды Канана