Правительство США вводит новое требование о раскрытии результатов тестирования безопасности ИИ

В решительном шаге к обеспечению безопасности систем искусственного интеллекта (ИИ) администрация Байдена инициировала требование для разработчиков крупных ИИ-систем раскрывать результаты своих тестов безопасности правительству. Это развитие является частью комплексного подхода, изложенного в исполнительном указе, подписанном президентом США Джо Байденом три месяца назад, направленном на эффективное управление быстро меняющимся ландшафтом технологий ИИ.

Совет Белого дома по ИИ оценивает прогресс

Совет Белого дома по искусственному интеллекту (ИИ) проведет заседание в понедельник для оценки прогресса в реализации исполнительного указа. Цели на 90 дней, изложенные в указе, включали мандат в соответствии с Законом о производстве для обороны, обязывающий компании в сфере ИИ предоставлять важную информацию, особенно результаты тестов на безопасность, Министерству торговли. Бен Буканан, специальный советник Белого дома по вопросам ИИ, подчеркнул намерение правительства обеспечить безопасность систем ИИ перед их выпуском для общественности.

Мандат на раскрытие результатов тестов на безопасность

Согласно исполнительному указу, компании в сфере ИИ обязаны раскрывать результаты тестов на безопасность, что является значительным шагом к обеспечению прозрачности и подотчетности в индустрии ИИ. Раскрытие информации будет включать предоставление важных данных Министерству торговли, и правительство твердо намерено обеспечить соответствие систем ИИ строгим стандартам безопасности.

Хотя компании программного обеспечения обязались использовать определенный набор категорий для тестов на безопасность, единого стандарта для этих тестов пока не существует. Национальный институт стандартов и технологий (NIST), как указано в исполнительном указе, сыграет ключевую роль в разработке единой системы оценки безопасности. Этот стандартизированный подход направлен на обеспечение согласованности и надежности оценок безопасности во всей сфере ИИ.

Влияние ИИ на экономику и национальную безопасность

Искусственный интеллект стал одним из важнейших факторов как для экономического процветания, так и для национальной безопасности, что побудило федеральное правительство принять проактивные меры. Запуск новых инструментов ИИ, таких как ChatGPT, способных генерировать текст, изображения и звуки, добавил новые измерения инвестициям и неопределенности. Администрация Байдена не только сосредоточена на внутреннем регулировании, но и активно взаимодействует с международными партнерами, включая Европейский союз, для установления глобальных стандартов управления технологиями ИИ.

Проект правила Министерства торговли США в отношении облачных компаний

В рамках усилий правительства Министерство торговли разработало проект правила, специально касающегося американских облачных компаний, предоставляющих серверы иностранным разработчикам ИИ. Это правило направлено на обеспечение того, чтобы разработка ИИ с использованием облачной инфраструктуры США соответствовала строгим стандартам безопасности и регулирования, дополнительно укрепляя приверженность правительства контролю за приложениями ИИ как внутри страны, так и в глобальном масштабе.

Девять федеральных агентств, включая Министерства обороны, транспорта, казначейства и здравоохранения и социальных служб, завершили оценку рисков, связанных с интеграцией ИИ в критическую национальную инфраструктуру. Эти оценки имеют решающее значение для выявления потенциальных уязвимостей и обеспечения того, чтобы приложения ИИ развертывались таким образом, чтобы защищать национальные интересы.