В рамках одной из своих крупных инициатив, направленных на стимулирование принятия технологий искусственного интеллекта правительством США с ответственным подходом, Белый дом продиктовал необходимость проведения предвзятых тестов инструментов искусственного интеллекта, используемых в правительственных учреждениях.
Исполнительный указ, изданный через OMB, представляет собой одну из ключевых политических программ администрации Байдена, призванную сдерживать наименьшие возможные риски, которые могут возникнуть, включая дискриминацию, наряду с нарушением конфиденциальности.
Федеральные агентства готовятся к надзору и подотчетности в области ИИ
Как объявлено в общеправительственной политике, федеральные агентства разработают tron операционные системы, соответствующие правам и безопасности людей. Они должны быть реализованы к 1 декабря, когда искусственный интеллект будет применен таким образом, что сможет влиять на жизнь людей.
В частности, эти меры призваны устранить различия, посягательства на частную сферу и расхождения между различными секторами, включая безопасность на транспорте, здравоохранении и предоставлении услуг. В дополнение к другим мерам по обеспечению надзора следует назначать руководителей отделов искусственного интеллекта или отдела по борьбе с преступностью и правоприменением.
Для надзора за выполнением руководства OMB по искусственному интеллекту и координации его использования в различных офисах будут назначены главные офицеры по искусственному интеллекту. Эти чиновники будут участвовать в создании и обеспечении прозрачности и подотчетности внедрения искусственного интеллекта в федеральном правительстве.
Вице- dent Камала Харрис подчеркнула намерение этой внутренней политики служить моделью для глобальных действий, подчеркнув важность определения приоритета общественного интереса в использовании искусственного интеллекта. К лету администрация планирует нанять не менее 100 сотрудников, занимающихся искусственным интеллектом, что еще раз подчеркивает ее приверженность этой инициативе.
Тщательное тестирование систем высокого риска
Высокопоставленные чиновники администрации отметили, что системы высокого риска пройдут тщательное тестирование для dent и смягчения потенциальных предубеждений и рисков. Такой активный подход подчеркивает приверженность администрации обеспечению ответственного использования технологий искусственного интеллекта в правительственных операциях.
В соответствии с новыми руководящими принципами американцы могут обращаться за средствами правовой защиты, если считают, что системы привели к получению ложной информации или решений, затрагивающих их.
Федеральные агентства должны опубликовать список систем, оценок рисков и стратегий управления. Отказы могут быть предоставлены для программного обеспечения, которое не соответствует правилам администрирования, но должно быть предоставлено обоснование, способствующее прозрачности и подотчетности при развертывании искусственного интеллекта.
Проблемы и будущие направления
Александра Рив Гивенс, президент dent генеральный директор Центра демократии и технологий, назвала это руководство важным шагом на пути к обеспечению ответственного ИИ в федеральных агентствах.
Гивенс подчеркнул важность строгих процессов для оценки потенциального воздействия новых технологий на отдельных лиц и сообщества.
В то время как федеральные агентства уже много лет используют технологии искусственного интеллекта, более широкое регулирование искусственного интеллекта в Конгрессе застопорилось. В результате администрация Байдена использует позицию правительства как крупного потребителя технологий для установления гарантий и содействия ответственному внедрению ИИ.
Несмотря на активные меры, принятые администрацией, проблемы остаются, особенно в отношении сохранения предвзятости в системах искусственного интеллекта. Случаи расовой предвзятости и неточностей в принятии решений, основанных на ИИ, подчеркивают необходимость постоянной бдительности и надзора за внедрением ИИ.
Мандат Белого дома на тестирование на предвзятость и надзор за использованием ИИ в федеральных агентствах представляет собой значительный шаг на пути к обеспечению ответственного и этического внедрения технологии ИИ. Внедряя конкретные гарантии, повышая прозрачность и повышая общественную подотчетность, администрация стремится устранить потенциальные риски, одновременно используя преобразующий потенциал ИИ на благо общества.
