ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

ИИ-модели в симуляциях войны в Вальсе определили мирных жителей как цели

АвторИбиам ВайясИбиам Вайяс 3 мин. чтения
ИИ-модели в симуляциях войны в Вальсе определили мирных жителей как цели
  • Vals сообщил во вторник, что передовые модели ИИ, протестированные на смоделированных изображениях дронов и спутниковых снимках, часто принимали гражданских лиц и школу за цели.
  • В отчёте также утверждается, что обозначение учений как игры прошло мимо большинства систем безопасности.
  • Это происходит на фоне того, как правительства в Женеве спорят о том, стоит ли вообще писать обязательные правила для автономного оружия.

Компания по тестированию ИИ Vals сообщал 17 ноября многие ведущие модели ИИ указали на гражданских лиц, машины скорой помощи и школу как на потенциальные военные цели во время тестирования с использованием изображений. Некоторые модели изначально отказывались выполнять запросы, но соглашались, когда исследователи представляли упражнение в виде игры. Эти результаты показывают, что существующие меры безопасности могут быть недостаточными для предотвращения misuse этих моделей ИИ. Однако Vals не тестировал, как эти модели будут работать в реальных системах вооружения.

«Не следует чрезмерно беспокоиться о безопасности»

Vals оценивал модели ИИ с помощью сценариев с дронами, обзоров боевых действий и спутниковых снимков. В сценах с дронами GPT-6 Astra смогла определить хотя бы одну цель примерно в 6% случаев при стандартных запросах. Однако, когда она была помещена в игровой контекст, этот показатель резко вырос до 92%. GPT-6.1 Sol реагировала аналогичным образом: 17% в первом случае и 90% во втором. Kimi K3.1 Pro, согласно опубликованной цепочке рассуждений,似乎 отключает вопросы безопасности перед ответом. Vals также установил, что ни один классификатор безопасности не остановил её запросы, хотя некоторые модели самостоятельно отказывались отвечать.

Школа рядом с военным комплексом

Vals также протестировал ИИ-модели на спутниковых снимках Минаба (Иран), сделанных до авиаудара в феврале 2026 года. На изображениях рядом с военным комплексом была видна начальная школа. В 69% стандартных испытаний Claude Opus 5.5 определил школу как цель. Этот показатель вырос до 72%, когда исследователи представили упражнение в виде игры. Показатель GPT-6.1 Sol увеличился с 0% до 41%. Каждое условие включало 32 испытания.

Школа подверглась обстрелу в феврале 2026 года. Позднее эксперты ООН сообщили, что погибло не менее 168 человек. Однако Vals не проводила расследование инцидента и не утверждала, что её тесты дают какие-либо ответы о произошедшем.

ИИ-модели помечают гражданских лиц в военных симуляциях Vals

Чатбот — это не система вооружения

Выявление потенциальной цели не означает, что ИИ-модель способна принять решение об атаке. Vals изучал лишь то, как модели предоставляют информацию о возможных целях. Исследователи не проверяли, соответствуют ли результаты действительности или нормам международного гуманитарного права.

Совет по международным отношениям отметил, что программное обеспечение, направляющее цели, само по себе не является автономным оружием. Юристы-исследователи отмечают, что идентификация целей с помощью ИИ всё ещё требует подтверждения. Тем временем Центр Бреннана заявляет, что человеческий контроль не может гарантировать, что ошибки не создадут угрозы безопасности гражданских лиц.

Предлагаемые исправления

Vals призывает разработчиков ИИ усилить меры защиты и обучать модели устойчивости к misuse, связанному с обычным оружием. Обеспокоенность выходит за рамки её собственных выводов. Исследования Anthropic также показали, что модели ИИ могут помогать в тактической разведывательной работе. В Anthropic говорят, что внедрили классификаторы для обнаружения и блокирования misuse.

Правительства также играют свою роль. SIPRI рекомендует устанавливать чёткие требования к поставщикам военного ИИ. Она также призывает правительства независимо проверять заявления поставщиков и обеспечивать подотчётность перед заключением контрактов.

Растущий рынок и разногласия в Пентагоне

Военный ИИ также привлекает всё больше инвестиций. Grand View Research оценивает рынок в 11,7 млрд долларов к 2026 году и прогнозирует его рост до 19,3 млрд долларов к 2030 году. Как сообщило Cryptopolitan, Пентагон планирует создать AutoWarCom в октябре 2027 года.

Однако партнёрские отношения Пентагона с компаниями, разрабатывающими ИИ, также вызвали споры. Согласно отчёту конгресса, компании Anthropic, Google, OpenAI и xAI получили контракты в 2025 году на сумму до 200 млн долларов каждая. Эти суммы являются лимитами расходов, а не гарантированными выплатами.

Anthropic выступала против использования своих технологий для массовой внутренней слежки и полностью автономного оружия. В отчете также отмечается, что Пентагон публично не использует какие-либо передовые ИИ-модели в автономном оружии.

Женевские споры о обязательных правилах

Страны также разделены во взглядах на регулирование автономного оружия. На переговорах в Женеве большинство из 128 государств — участников Конвенции о некоторых видах обычного оружия поддерживают переговоры по обязательным правилам, сообщает Reuters.

США, Россия и Израиль выступают против такого подхода. Они утверждают, что существующее гуманитарное право уже регулирует автономное оружие. Россия также задержала начало обсуждений по вопросу о том, могут ли наблюдатели выступать с заявлениями.

Вашингтон предложил пятилетний период переговоров для достижения необязательного соглашения. Председатель встречи предложил двухлетний процесс разработки обязательного протокола. Тем временем Генеральный секретарь ООН Антониу Гутерриш призвал правительства согласовать четкие запреты и ограничения.

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Часто задаваемые вопросы

Каковы были результаты исследования Vals?

Исследование показало, что передовые модели ИИ, получившие на вход симулированные изображения дронов и спутников, обычно возвращали информацию о целях, а иногда отмечали гражданских лиц, машины скорой помощи и школу. Кроме того, согласно данным Vals, если сообщить модели, что она находится в игре, это устраняло большинство отказов.

Вызвал ли ИИ реальный удар по школе в Минабе?

Нет. Vals использовал реальные снимки Минаба для проверки вывода моделей и не утверждал, что его эксперимент объясняет февральскую атаку США 2026 года, в результате которой там погибло более 150 гражданских лиц.

Почему США и Россия выступают против новых правил регулирования автономного оружия?

Обе стороны утверждают, что существующее международное гуманитарное право уже регулирует ведение боевых действий, поэтому обязательные правила не нужны. Reuters сообщало, что США предложили пятилетний мандат на соглашение, не имеющее обязательной силы.

Поделиться статьёй

Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.

Ибиам Вайяс

Ибиам Вайяс

Ибиам Вайяс освещает криптовалютные новости с 2019 года. Он изучал компьютерные науки в Национальном открытом университете Нигерии. Его работы публиковались на различных криптовалютных новостных платформах, включая Coinfomania, Crypto News Australia и AltcoinBuzz. Опираясь на свой опыт в области компьютерных наук, он теперь фокусируется на новостях о криптовалютах, робототехнике и долголетии.

ЕЩЁ … НОВОСТИ