Презентация Microsoft и OpenAI вызвала споры по поводу использования инструментов искусственного интеллекта в военных целях

В прошлом месяце во время семинара по повышению осведомленности о ИИ в военной сфере, организованного Министерством обороны США, Microsoft совместно с OpenAI продемонстрировали свои разработки, что подогрело дискуссию о том, какое применение технологии ИИ может иметь в военной сфере. На мероприятии, состоявшемся в октябре 2023 года, были представлены демонстрации продуктов, ориентированные на Пентагон, в том числе генератор изображений DALL-E от OpenAI.

Предложение Microsoft по интеграции с военной сферой

Основным инструментом, представленным Microsoft, стал генератор изображений DALL-E, который может найти применение в новейших системах управления боем. Эти комплексные системы, критически важные для военного планирования, предоставляют всем командирам обзор всего поля боя с одной позиции. Это также очень полезно для координации и управления различными операциями, выбора целей для артиллерийских и авиаударов и т.д. Предложение Microsoft включало использование DALL-E для инновационных усовершенствований программного обеспечения систем управления войсками с целью достижения их эффективности и результативности.

В отличие от Microsoft, компания OpenAI дистанцировалась от презентации на EuroDIG 2019. Организация заявила, что не принимала участия в конференции и не продавала никакой продукции чешскому оборонному ведомству. Специалист по связям со СМИ OpenAI, Лиз Бурго, сообщила общественности, что компания выступает против применения каких-либо своих инструментов в военных целях, поскольку это может повлечь за собой действия, которые, например, могут привести к гибели или ранению людей. Даже после того, как предложение Microsoft было выполнено, Бурго все еще считала, что OpenAI отчасти обманывает, предлагая сотрудничество с оборонными ведомствами для использования технологий в военных целях.

Уточнения от Microsoft

Благодаря поддержке Microsoft, Пентагон уже может использовать DALL-E для более реалистичного обучения и моделирования в вооруженных силах. Компания отказалась от этой идеи, поскольку сам план таковым не был реализован. Microsoft отметила, что гипотетические примеры были разработаны на основе диалогов со своими клиентами о том, как они могли бы использовать новый продукт. Более того, компания оговорила, что в случае использования Пентагоном инструментов OpenAI, предоставленных Microsoft, Пентагон и Microsoft должны будут одновременно defiправила использования и контроля.

В недавнем обновлении кодекса поведения OpenAI были исключены явные ограничения на использование ее передовых технологий в военных целях и для ведения боевых действий. Это обвинение еще больше запутало этическую ситуацию с использованием ИИ в военных целях. Кроме того, OpenAI осталась непреклонна в своем возражении против использования своих инструментов для любых вредных действий, но отмена требований оставила открытым вопрос о том, каковы ограничения и условия применения ИИ в оборонной сфере.

Продолжающиеся дискуссии и этические соображения

Раскрытие патента Microsoft, описывающего этот подход, и разъяснение OpenAI своих этических стандартов и процедур кардинально изменили экологию технической отрасли, а также политиков, которые теперь обеспокоены этическими границами технологий искусственного интеллекта. Интеграция ИИ в военный процесс поднимает столь сложные с моральной точки зрения вопросы, а также требует юридического анализа, что влечет за собой разработку более строгих процедур для создания и внедрения систем ИИ.

В связи с развитием решений в области искусственного интеллекта обостряются и этические вопросы, особенно в секторах, имеющих решающее значение для суверенитета страны, таких как национальная защита. Презентация Microsoft и OpenAI на семинаре Министерства обороны США подчеркивает растущее стремление к внедрению технологий ИИ для поддержки военных задач. Хотя существуют и положительные аспекты, есть и опасения по поводу результатов этих приложений, а также этические вопросы, связанные с такой интеграцией. Поэтому необходимо учитывать эти аспекты и рассматривать, как они будут интегрированы в военные операции.

Эта статья первоначально была опубликована на Yahoo.