ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Внутри первой в мире войны с использованием ИИ: ошибки прицеливания, дезинформация и пробелы в подотчетности

АвторНур БазмиНур Базми 3 мин. чтения
Внутри первой в мире войны ИИ: ошибки прицеливания, дезинформация и пробелы в подотчётности
  • ВВС США продолжают расследование бомбардировки школы в Иране, и никто не сообщил, играл ли искусственный интеллект роль в выборе этой цели.
  • Система Maven Smart System, теперь работающая на базе большой языковой модели, помогла войскам США поразить 1000 объектов за 24 часа.
  • Тем временем видео с кадрами войны, созданные с помощью ИИ, набрали сотни миллионов просмотров, а платформы реагировали на них медленно.

В первый день ударов США и Израиля по Ирану в южном иранском городе Минаб была разрушена школа. Погибло более 175 человек, включая школьников. Ни Вашингтон, ни Тель-Авив не заявил сообщили о произошедшем. Никто не взял на себя ответственность. Один вопрос не перестает возникать: не сбила ли система ИИ достигла не ту показатель?

В первые 24 часа американские силы поразили около 1000 объектов, примерно 42 в час. Отчет CSET о 18-й воздушно-десантной дивизии показал, что сиспользованием системы Maven Smart System 20 человек могли делать то, что раньше требовало команды из 2000 человек в Объединенном центре воздушных операций в Ираке. К концу 2024 года США внедрили большую языковую модель, тот же тип программного обеспечения, что и за потребительскими ИИ-чатботами, внутрь Maven. Это была одна из первых войн, в которой эта технология использовалась для целеполагания.

Военно-воздушные силы США заявляют, что все еще расследуют удар по Минабу. Они не сказали, какую роль, если вообще какую-то, сыграла ИИ-система в отправке ракеты в это здание.

Нью-Йорк Таймс сообщала в начале, что система могла работать на устаревших данных. Корреспондент Луиза Лавлак написала в X, что удар мог быть «основан на разведданных десятилетней давности», и что любой, кто проверял недавние спутниковые снимки бесплатно в интернете, увидел бы «школу с спортивным полем» на одном из объектов, отмеченных для атаки.

Компьютерный ученый Ан Тотти Нгуен исследовал, где ИИ-системы зрения дают сбой. Его работа «Vision language models are blind: Failing to translate detailed visual features into words» показала, что эти системы часто терпят неудачу, когда две структуры находятся близко друг к другу, и программному обеспечению нужно определить, какая из них какая.

Спутниковые снимки Нью-Йорк Таймс показывают начальную школу Шаджара Таййеба, стоящую прямо рядом с комплексом КСИР в Минабе, что является точной конфигурацией, которую отметил Нгуен в своих исследованиях.

Кто несет ответственность, когда ИИ ошибается?

Эмилия Пробаско, бывший офицер ВМС и старший научный сотрудник Центра безопасности и новых технологий, заявила в подкасте The Four Cast, что ответственность лежит на командире, отдавшем приказ. Так работает военная система. По её словам, проблема «чёрного ящика», то есть невозможность понять, как система ИИ пришла к тому или иному решению, является «областью активных исследований, а не решённой задачей».

До войны Anthropic, компания, чья технология лежит в основе Maven, вступила в спор о контракте с Министерством обороны по двум вопросам: достаточно ли надежен ИИ для принятия решений о жизни и смерти, и превращает ли использование ИИ для связи разрозненных точек данных его в инструмент массовой слежки.

Пробаско сказал, что обе проблемы имеют вес, но отметил «неловкость ситуации, когда частная компания проводит границы того, как военное учреждение проводит свои операции».

Холланд Мичел заявил, что разговор постоянно ↩ается к наихудшему сценарию. Машина, которая выбирает цели и стреляет без участия человека. Этот риск реален, сказал он, но это не то, что происходит сейчас.

«Более сложная, более насущная работа», сказал он, «заключается в том, чтобы сделать системы ИИ более прозрачными и убедиться, что люди, полагающиеся на их выводы, принимают по-настоящему обоснованные решения, а не просто слепо доверяют тому, что предлагает машина».

Контент о войне, созданный ИИ, также распространялся быстро интернете

BBC Verify отслеживал видео, созданные с помощью ИИ и измененные спутниковые снимки, связанные с конфликтом, которые набрали сотни миллионов просмотров.

Тимоти Грэм, исследователь цифровых медиа из Квинслендского технологического университета, сказал: «Масштаб по-настоящему тревожный, и эта война сделала невозможным игнорирование ситуации сейчас». Он добавил, «То, что раньше требовало профессионального видеопроизводства, теперь можно сделать за минуты с помощью инструментов ИИ. Барьер для создания убедительных синтетических материалов о конфликтах практически рухнул».

X заявил, что исключит авторов из своей программы выплат, если они будут публиковать военные видео, созданные с помощью ИИ без соответствующей маркировки. Махса Алимардани, исследовательница Оксфордского института интернета, специализирующаяся на Иране, назвала это «заметным сигналом того, что они осознали: это серьезная проблема.» Meta и TikTok не ответили на запрос о том, планируют ли они поступить так же.

Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.

Поделиться статьёй
Нур Базми

Нур Базми

Нуор Базми работает в новостной команде Cryptopolitan, имея степень по медиаисследованиям. Нуор освещает новости о блокчейне, криптовалютах, искусственном интеллекте, крупных технологических компаниях, рынке электромобилей, глобальной экономике и изменениях в государственной политике. Она изучает маркетинг, чтобы лучше взаимодействовать с международной аудиторией.

ЕЩЁ … НОВОСТИ