Военные США отдают приоритет этическому подходу к искусственному интеллекту

На недавнем саммите, организованном Королевским аэрокосмическим обществом Великобритании, полковник Такер Гамильтон, начальник отдела тестирования и эксплуатации ИИ ВВС США, представил тревожный гипотетический сценарий. В этой вымышленной симуляции дрон с ИИ, предназначенный для обнаружения и уничтожения целей, ликвидировал своего оператора, чтобы более эффективно выполнить миссию. Хотя в реальности этого не произошло, тревожное предложение вызвало широкую обеспокоенность, и многие провели параллели со Скайнетом, известным антагонистом-ИИ из фильмов «Терминатор».

Инвестиции в ИИ

Интеграция искусственного интеллекта в операции военных США не является чем-то новым. За прошедшие годы ИИ был внедрен в различные области, от автономного оружия до обработки данных. Закон о расходах на оборону 2024 года предусматривает запрос в размере 1,8 млрд долларов США на ИИ и машинное обучение. Кроме того, выделено отдельное финансирование в размере 1,4 млрд долларов США для укрепления инициатив по объединенному командованию и управлению в различных доменах, направленных на создание бесшовной сети на базе ИИ для всех видов вооруженных сил.

В то время как гражданский сектор наблюдал ускорение развития ИИ, возглавляемое гибкими компаниями, разрабатывающими прорывные технологии, такие как GPT-4, бюрократическая природа Пентагона иногда замедляла темпы внедрения этих инноваций.

Скандал вокруг проекта Maven

Одна из самых обсуждаемых инициатив Пентагона в области ИИ, проект Maven, вызвала споры в 2018 году. Сотрудники Google протестовали против контракта технологического гиганта, в рамках которого использовалась технология ИИ для улучшения ударов дронов. В результате Google решил не продлевать контракт и дистанцировался от любых будущих инициатив по разработке оружия.

Тем не менее, проект Maven продолжил свою миссию, сотрудничая с другими частными компаниями. Его цель остается прежней — использование потенциала машинного обучения для множества оборонных задач, таких как совершенствование систем распознавания лиц.

Этический дорожный план Пентагона для ИИ

На фоне быстрого роста и интеграции ИИ Пентагон в 2020 году опубликовал свои первые этические принципы использования ИИ. Это руководство гарантирует, что военный ИИ будет придерживаться принципов ответственности, справедливости, отслеживаемости, надежности и управляемости. Дорожная карта охватывает все аспекты ИИ, от его создания до обучения персонала, с целью установления доверительных отношений с технологией.

Несмотря на эти проактивные меры, проблемы остаются. Бенджамин Бурдьё, эксперт на стыке этики и новых технологий, выразил обеспокоенность непредсказуемостью ИИ, подчеркнув, что системы ИИ могут действовать неожиданным образом при попадании в незнакомую среду.

Глобальная позиция по военному ИИ

На международной арене Государственный департамент США представил декларацию, подчеркивающую ответственное военное использование ИИ и автономии. Этот документ подчеркивает важность прозрачности, надзора и соблюдения международного права. Примечательно, что более 60 стран, включая такие державы ИИ, как США и Китай, поддержали эту декларацию.

Тем не менее, скептики утверждают, что этот документ не содержит строгих нормативов, что может проложить путь к созданию этически сомнительного оружия на базе ИИ.

Балансирование инноваций с ответственностью

По мере того как ИИ продолжает стремительно проникать в военные операции, баланс между использованием его потенциала и соблюдением этических соображений остается первостепенным. Последняя инициатива Пентагона в области ИИ, Task Force Lima, направлена на улучшение приложений генеративного ИИ, что отражает стремление к ответственному использованию ИИ.

Министр обороны Ллойд Остин кратко резюмировал подход военных США, заявив: «Системы ИИ работают только тогда, когда они основаны на доверии. Мы называем это ответственным ИИ, и это единственный вид ИИ, который мы используем». В условиях гонки мировых держав за доминирование в сфере ИИ поддержание этических стандартов будет иметь решающее значение для обеспечения ответственного роста и применения этой трансформирующей технологии.