Презентация Microsoft и OpenAI вызвала споры о военном использовании инструментов ИИ

В прошлом месяце во время семинара по цифровой грамотности в области ИИ для Министерства обороны США Microsoft вместе с OpenAI продемонстрировали свои предложения, усилив дебаты о том, какие военные приложения, вероятно, будут у технологии ИИ. Мероприятие, состоявшееся в октябре 2023 года, представило демонстрацию продуктов, сосредоточенную на том, какие элементы применимы к Пентагону, включая генератор изображений DALL-E от OpenAI.

Предложение Microsoft по военной интеграции

Основным инструментом, представленным Microsoft, был генератор изображений DALL-E, который мог найти применение в новейших системах управления боями. Эти всеобъемлющие системы, критически важные для военного планирования, предоставляют всем командирам обзор всего поля боя с одной позиции. Это также очень полезно для координации и контроля перемещения различных видов деятельности, выбора целей для артиллерийских и авиаударов и так далее. Предложение Microsoft включало использование DALL-E для инновационного улучшения систем управления и контроля для достижения целей эффективности и результативности.

OpenAI, с другой стороны, держалась в стороне от презентации EuroDIG 2019, в отличие от Microsoft. Организация заявила, что не участвовала в конференции и не продала никаких продуктов чешскому министерству обороны. Медиа-специалист OpenAI Лиз Бурго проинформировала общественность, что позиция компании против применения любых ее инструментов военными, поскольку это может привести к деятельности, которая может привести к разрушению или травмам людей, например. Даже когда предложение Microsoft было реализовано, Бурже по-прежнему считала OpenAI частично обманчивой в отношении вступления в какое-либо сотрудничество с оборонными агентствами для использования технологии в военных целях.

Уточнения от Microsoft

Благодаря поддержке Microsoft Пентагон уже может использовать DALL-E для более реалистичного тренировочного и симуляционного программного обеспечения в военных силах. Компания отвергла эту идею как план, поскольку такой план не оказался фактом. Microsoft отметила, что демонстрации гипотетических случаев были тем, к чему они пришли на основе диалогов с (своими) клиентами о том, как они могут использовать новый продукт. Кроме того, компания указала, что в случае использования командой Пентагона инструментов OpenAI, предоставленных Microsoft, Пентагон и Microsoft должны будут одновременно иметь определенные правила использования и контроля.

Недавнее обновление кодекса поведения OpenAI устранило явные исключения для использования его передовых технологий в военных целях и в войне. Обвинение еще больше запутало этические вопросы использования ИИ в военных приложениях. Кроме того, OpenAI осталась непреклонной в своем возражении против использования своих инструментов для любой вредоносной деятельности, но устранение требований оставило открытым вопрос о том, какие ограничения и условия применяются к использованию ИИ в обороне.

Текущие обсуждения и этические соображения

Раскрытие патента Microsoft об этом подходе и объяснение OpenAI своих этических стандартов и процедур химически изменило экологию технической отрасли, а также политиков, которые теперь беспокоятся об этических границах технологии искусственного интеллекта. Интеграция ИИ и военного процесса поднимает такие морально сложные вопросы, а также включает юридическое обоснование, что требует разработки более строгих процедур для создания и развертывания систем ИИ.

В соответствии с достижениями в решениях ИИ, этические соображения также усугубляются, особенно в секторах, критически важных для суверенитета страны, таких как национальная защита. Презентация Microsoft и OpenAI на семинаре Министерства обороны США подчеркивает растущее намерение принять технологию ИИ для поддержки военных вопросов. Хотя существуют полезные аспекты, существуют также опасения по поводу результатов этих приложений, а также этических вопросов, связанных с этой интеграцией. Поэтому нам нужно держать их под рассмотрением и посмотреть, как они будут интегрированы в военные операции.

Эта статья изначально появилась в Yahoo.