Президент Signal предупреждает о рисках агентного ИИ

Президент Signal Мередит Уиттакер предупредила общественность о рисках, связанных с агентным искусственным интеллектом (ИИ). Выступая на конференции SXSW в Остине, штат Техас, она отметила, что использование агентного ИИ может нести риск для конфиденциальности пользователей.

Согласно заявлению Уиттакер, она упомянула необходимость безопасных форм связи, отметив, что использование агентов ИИ равносильно «помещению вашего мозга в банку». Она добавила, что новая тенденция, при которой пользователи позволяют ИИ выполнять задачи от их имени, может создать проблемы как с конфиденциальностью, так и с безопасностью.

Использование агентов ИИ стало повсеместным в криптоиндустрии, где пользователи сектора децентрализованных финансов (DeFi) используют эти машины для выполнения таких задач, как исполнение сделок, адаптация и даже оптимизация стратегий с минимальным или отсутствующим вмешательством пользователей. Эти агенты ИИ также интегрированы в платформы, чтобы помочь пользователям торговать проще, умнее и быстрее. Однако некоторые боты загружаются до того, как пользователи могут взаимодействовать с агентом ИИ.

Президент Signal призывает к осторожности в отношении агентов ИИ

Согласно президенту Signal, различные платформы начинают рекламировать агентов ИИ как форму услуги с добавленной стоимостью, призванной улучшить жизнь пользователей. В своей речи Уиттакер упомянула, что за пределами использования в крипто-секторе эти агенты выполняют различные онлайн-задачи для пользователей. Например, агенты ИИ могут покупать билеты на мероприятия, планировать события в календаре и отправлять сообщения друзьям.

«Так что мы можем просто поместить наш мозг в банку, потому что эта штука делает это за нас, и нам не нужно с ней взаимодействовать, верно?» — спросила президент Signal.

После постановки вопроса она перешла к длительному обсуждению разрешений, которые пользователи должны предоставить агентам ИИ, прежде чем они смогут выполнять все эти задачи для повышения эффективности жизни пользователей. Уиттакер добавила, что это будет включать доступ к нашему веб-браузеру, календарю, мессенджерам и иногда к нашей кредитной карте, так как ей нужно оплачивать билеты на мероприятия, которые она бронирует для нас.

«Ей потребуется возможность управлять этим [процессом] через всю нашу систему с чем-то, похожим на права root, получая доступ к каждой базе данных — вероятно, в открытом виде, потому что нет модели для работы с этим в зашифрованном виде», — добавила Уиттакер.

Заявление Уиттакер призывает к осторожности в индустрии ИИ

В своем заявлении Уиттакер отметила, что агенты ИИ не работают достаточно автономно, поскольку они должны питаться моделями ИИ. Она также обсудила взаимосвязь между процессом и безопасностью, отметив, что информация отправляется на сервер для обработки перед тем, как быть возвращенной обратно.

«Таким образом, существует глубокая проблема с безопасностью и конфиденциальностью, которая преследует этот ажиотаж вокруг агентов, и которая в конечном итоге угрожает разрушить барьер „мозг-кровь“ между слоем приложений и слоем операционной системы, объединяя все эти отдельные услуги [и] запутывая их данные», — добавила Уиттакер.

Она также отметила, что если Signal решит интегрировать агентов ИИ в свое приложение, это подорвет конфиденциальность сообщений пользователей. Она добавила, что агенту потребуется получить доступ к приложению, чтобы отправлять тексты другим людям, а также извлекать информацию для суммирования текста.

Ее комментарии прозвучали после того, как она участвовала в панели, обсуждавшей, как индустрия ИИ построена на режиме слежки из-за способа сбора массовых данных. Уиттакер также добавила, что считает, что чем больше данных собирается, тем больше потенциальных последствий, которые она считает негативными.

С агентным ИИ президент Signal упомянул, что «мы будем еще больше подрывать конфиденциальность и безопасность из-за „волшебного бота-гения“, который будет заботиться о насущных потребностях жизни», — заключила она.