Microsoft запускает безопасный чат-бот на базе ИИ для агентств разведки

Microsoft запустила чат-бот на базе ИИ, созданный на технологии GPT-4, который предназначен исключительно для использования агентствами разведки США в автономном режиме в безопасной среде. Такое развитие событий подразумевает существенный прорыв, поскольку это первый случай развертывания MLM в засекреченной среде, которая способствует безопасной обработке информации без рисков, связанных с интернетом.

Безопасный и изолированный ИИ для интеллектуальных систем

Новый разработанный чат-бот на базе ИИ, который еще не получил публичного названия, был создан для удовлетворения растущего спроса на использование передовых технологий генеративного ИИ с одной стороны и защиты от вероятных рисков утечки данных или киберугроз с другой. В отличие от общих облачных систем, таких как ChatGPT, которые имеют inherent риск перехвата данных, этот специализированный ИИ работает независимо от Интернета, делая взаимодействия и анализ данных более безопасными.

Главный технологический директор Microsoft Уильям Чаппелл подчеркнул, что эта подготовка включала 18-месячную миссию по настройке суперкомпьютера на базе ИИ в Айове для размещения измененной модели GPT-4. Чаппелл подчеркивает ключевую роль этой изолированной сети, доступ к которой имеют только государственные служащие с гражданством США.

Особенности и недостатки GPT-4 в операциях разведки

Модифицированная модель GPT-4 помогает пользователям проверять файлы и имитирует разговоры ChatGPT или Microsoft Copilot. Эта новинка отличается от известных ранее облачных платформ ИИ, создавая защитную среду от внешних воздействий. Однако языковые модели ИИ, хотя и эффективны, обладают inherent ограничениями. Обратной стороной медали является возможность того, что ИИ может создавать неточные резюме или выводы благодаря своей фундаментальной природе, которая опирается на статистические вероятности, а не на всеобъемлющие базы данных.

Озабоченность экспертов заключается в том, что это может привести к склонности ИИ к конфабуляции или неверной интерпретации данных. Хотя GPT-4 способен к обработке естественного языка и может имитировать человеческие разговоры, человеческий аналитик остается непревзойденным, когда речь идет о контексте и точных фактах. Чтобы преодолеть эту проблему, агентствам разведки могут исследовать такие методы, как RAG, которые повышают производительность ИИ за счет интеграции внешних источников данных.

Развертывание и тестирование чат-бота на базе ИИ

Чат-бот на базе ИИ был успешно запущен в прошлый четверг и доступен примерно для 10 000 сотрудников различных агентств разведки для первоначального тестирования, мониторинга и оценки. Это развертывание представляет собой важный этап в миссии по интеграции передовых технологий ИИ в засекреченные операции, что может привести к революционным изменениям в том, как аналитики разведки взаимодействуют с большими объемами данных и анализируют их безопасным образом.

Выпуск Microsoft независимого, безопасного чат-бота на базе ИИ, работающего на GPT-4, является воплощением значительного прорыва в области анализа разведданных. Эта инициатива достигает своей цели за счет использования передовых языковых моделей, одновременно справляясь с рисками кибербезопасности, вызванными подключением к Интернету. Однако intrinsic ограничения языковых моделей ИИ подчеркивают необходимость других подходов вместе с ними, чтобы сделать разведывательную информацию точной и надежной.