В недавнем отчете Счетная палата США выразила обеспокоенность по поводу недостаточной готовности правительства США к внедрению искусственного интеллекта (ИИ) и разработке всеобъемлющих стандартов его использования. В отчете подчеркивается быстрый рост внедрения ИИ в государственных учреждениях, но также отмечается отсутствие четкой дорожной карты и стандартов, что может представлять значительные риски для безопасности.
Растущее внедрение ИИ в государственных учреждениях
Обширный 96-страничный отчет GAO представляет собой значительную попытку задокументировать расширяющуюся роль ИИ и машинного обучения в невоенных государственных учреждениях. В отчете показано, что в настоящее время ИИ используется в 228 различных областях федерального правительства, причем почти 50% этих применений появились только за последний год. Большинство из этих применений, приблизительно 70%, связаны с научными исследованиями или направлены на улучшение внутреннего управления ведомствами.
Примечательно, что, хотя в отчете перечислены 71 различных варианта использования ИИ, публично были обнародованы только 10 из них. В качестве примеров можно привести использование ИИ Министерством торговли для tracлесных пожаров, автоматизированного подсчета численности диких животных и мониторинга глобальной вулканической активности НАСА с помощью ИИ. Министерство внутренней безопасности также использует ИИ дляdentинтересующих пограничных операций путем анализа данных с камер и радаров.
Однако, как показывает отчет, многие приложения ИИ остаются засекреченными: федеральные агентства раскрывают лишь 70% из 1241 активного и запланированного случая использования ИИ. Более 350 вариантов применения технологий были признаны конфиденциальными и поэтому не разглашались публично. Эта секретность, особенноdent в таких ведомствах, как Государственный департамент, вызывает опасения по поводу прозрачности и контроля за применением ИИ.
GAO выражает обеспокоенность по поводу отсутствия стандартов и политики в области искусственного интеллекта
Хотя государственные учреждения все чаще внедряют ИИ в различные области применения, в отчете GAO подчеркивается острая необходимость в стандартизированных правилах, регулирующих ответственное приобретение и использование технологий ИИ частным сектором. Отсутствие четких руководящих принципов представляет потенциальную угрозу национальной безопасности и благополучию американских граждан.
В докладе отмечается, что федеральные ведомства разрабатывают политику без четких указаний, что потенциально может привести к несоответствию применяемых методов передовой практике. Эта ситуация не только препятствует эффективности внедрения ИИ, но и вызывает опасения по поводу последствий для национального благополучия и безопасности.
Одной из существенных проблем, отмеченных GAO (Главным контрольным управлением США), является задержка в выпуске руководящих принципов Управлением по бюджету и управлению (OMB). Ожидалось, что OMB предоставит проект руководящих принципов ведомствам к сентябрю 2021 года, как того требует федеральный закон 2020 года об использовании ИИ в правительстве. Однако эти руководящие принципы были опубликованы только в ноябре 2023 года, опоздав более чем на два года. Эта задержка препятствует разработке согласованной политики в области ИИ во всех федеральных ведомствах.
Роль ИИ в правоохранительной деятельности и проблемы конфиденциальности
В связи с этим, в сентябре GAO (Главное контрольное управление США) выразило обеспокоенность по поводу использования ИИ, в частности технологии распознавания лиц, сотрудниками правоохранительных органов. В отчете указывалось, что в период с 2019 по 2022 год были проведены тысячи поисков с использованием технологии распознавания лиц без надлежащей подготовки персонала, что потенциально могло привести к неправомерным арестам из-за ошибочнойdentличности. Эта проблема подчеркивает важность ответственного использования ИИ и необходимость четкой политики и надзора.
Отчет GAO служит важным тревожным сигналом для правительства США, подчеркивая как стремительное расширение внедрения ИИ в государственных учреждениях, так и отсутствие всеобъемлющих стандартов и политик, регулирующих его использование. Хотя ИИ обладает огромным потенциалом для улучшения работы и услуг правительства, отсутствие четких руководящих принципов создает значительные риски для безопасности и конфиденциальности. Задержка правительства с выпуском необходимых руководящих принципов еще больше усугубляет ситуацию. Поскольку ИИ продолжает играть все более важную роль в обществе, решение этих проблем и создание надежных рамок управления становится крайне важным.
