Белый дом обязывает федеральные агентства проводить тесты на предвзятость ИИ

В рамках одной из своих крупных инициатив по стимулированию внедрения технологий ИИ правительством США ответственным образом, Белый дом предписал необходимость проведения тестов на предвзятость инструментов ИИ, используемых в правительственных агентствах.

Исполнительный указ, изданный через Управление и бюджетом (OMB), представляет одну из ключевых политических повесток администрации Байдена, направленную на минимизацию возможных рисков, включая дискриминацию, наряду с нарушениями конфиденциальности.

Федеральные агентства готовятся к надзору и подотчетности в сфере ИИ

Как было объявлено в общегосударственной политике, федеральные агентства будут разрабатывать надежные операционные системы для соблюдения прав и безопасности людей. Они должны быть внедрены к 1 декабря, когда искусственный интеллект применяется таким образом, что может влиять на жизнь людей. 

В частности, эти меры предназначены для устранения различий, нарушений частной жизни и расхождений между различными секторами, включая безопасность в сфере транспорта, здравоохранения и предоставления услуг. В дополнение к другим мерам должны быть назначены руководители по искусственному интеллекту или по вопросам преступности и правоприменения для обеспечения надзора.

Для надзора за выполнением руководящих принципов ИИ OMB и координации их использования в различных ведомствах будут назначены Главные офицеры по искусственному интеллекту (CAIO). Эти должностные лица будут участвовать в создании и обеспечении того, чтобы развертывание искусственного интеллекта в федеральном правительстве было прозрачным и подотчетным.

Вице-президент Камала Харрис подчеркнула намерение использовать эти внутренние политики в качестве модели для глобальных действий, акцентируя важность приоритета общественных интересов при использовании искусственного интеллекта. Администрация планирует нанять не менее 100 сотрудников, специализирующихся на искусственном интеллекте, к лету, что дополнительно подчеркивает ее приверженность этой инициативе.

Строгое тестирование систем высокого риска

Высокопоставленные чиновники администрации заявили, что системы высокого риска пройдут строгое тестирование для выявления и смягчения потенциальных предвзятостей и рисков. Этот проактивный подход подчеркивает приверженность администрации ответственному использованию технологий искусственного интеллекта в государственных операциях.

Согласно новым руководящим принципам, американцы могут seeking remedies, если считают, что системы привели к распространению ложной информации или принятию решений, влияющих на них. 

Федеральные агентства должны опубликовать перечень систем, оценки рисков и стратегии управления. Для программного обеспечения, не соответствующего правилам администрации, могут быть предоставлены исключения, но необходимо обоснование, что способствует прозрачности и подотчетности при внедрении искусственного интеллекта.

Вызовы и будущие направления

Александра Рив Гивенс, президент и генеральный директор Центра демократии и технологий, приветствовала эти рекомендации как значительный шаг к обеспечению ответственного использования ИИ в федеральных агентствах.

Гивенс подчеркнул важность строгих процессов, предназначенных для оценки потенциального воздействия новых технологий на отдельных лиц и сообщества.

Хотя федеральные агентства используют технологии ИИ уже много лет, более широкое регулирование ИИ застопорилось в Конгрессе. В результате администрация Байдена использует позицию правительства как крупного покупателя технологий для установления мер предосторожности и продвижения ответственного внедрения ИИ.

Несмотря на проактивные меры, принятые администрацией, остаются проблемы, особенно касающиеся закрепления предвзятости в системах ИИ. Инциденты расовой предвзятости и неточностей в принятии решений на основе ИИ подчеркивают необходимость постоянного контроля и надзора за внедрением ИИ.

Мандат Белого дома на тестирование на предвзятость и надзор за использованием ИИ в федеральных агентствах представляет собой значительный шаг к обеспечению ответственного и этичного внедрения технологий ИИ. Внедряя конкретные меры предосторожности, продвигая прозрачность и способствуя общественной подотчетности, администрация стремится устранить потенциальные риски, одновременно используя трансформационный потенциал ИИ на благо общества.