Министерство торговли США предлагает новые правила отчетности для поставщиков услуг в области искусственного интеллекта и облачных технологий

Министерство торговли США предложило новые требования к отчетности для разработчиков передового искусственного интеллекта и поставщиков облачных услуг с целью обеспечения безопасности и надежности этой технологии.

Бюро промышленности и безопасности (BIS) четко заявило, что компании, занимающиеся созданием новых технологий и управлением инженерными кластерами, инвестирующие в разработку суперкомпьютеров, будут обязаны представлять федеральным властям отчеты о некоторых важных проектах. Эта тенденция призвана снизить угрозы безопасности, связанные с кибербезопасностью и неправомерным использованием ресурсов искусственного интеллекта.

Согласно новому предложению, разработчики будут обязаны раскрывать подробную информацию о своих системах искусственного интеллекта, уделяя особое внимание мерам кибербезопасности и работе «красной команды». «Красная команда» — это метод, используемый в кибербезопасности для оценки потенциально вредоносного использования ИИ, например, содействия кибертерроризму или созданию оружия массового поражения.

Разработчики ИИ сталкиваются с новыми требованиями к отчетности о мерах кибербезопасности и тестировании рисков

Предложение Министерства торговли также потребует от разработчиков ИИ включать в свои отчеты результаты деятельности по выявлению угроз, особенно тех, которые связаны с опасными возможностями, такими как кибератаки. Этот метод, зародившийся в ходе моделирования времён холодной войны,dentриски путем имитации атак или нарушений безопасности.

Организациям потребуется обновить информацию о том, насколько хорошо их системы искусственного интеллекта противостоят атакам, даже со стороны иностранных интересов или негосударственных субъектов, которые могут захотеть использовать систему в критически важных злонамеренных целях.

Генеративный искусственный интеллект, способный создавать текст, изображения или видео на основе запросов пользователя, вызвал опасения. Хотя эта технология предлагает прогресс во многих областях, она также усилила опасения по поводу возможных угроз, таких как потеря рабочих мест, вмешательство в выборы и риск доминирования искусственного интеллекта над людьми.

Новые правила отчетности направлены на обеспечение безопасной и надежной разработки моделей ИИ, снижая вероятность реализации этих рисков.

Поставщики облачных услуг обязаны соблюдать новые стандарты отчетности в области безопасности и разработки искусственного интеллекта

Помимо разработчиков искусственного интеллекта, предлагаемые правила будут касаться также поставщиков облачных услуг, таких как Amazon Web Services (AWS), Google Clouds и Microsoft Azure. Эти платформы, играющие важную роль в развитии искусственного интеллекта, должны будут соблюдать строгие стандарты кибербезопасности своей инфраструктуры. Министерство торговли подчеркнуло, что эта информация важна для предотвращения злоупотреблений американскими технологиями со стороны других стран.

Ужесточение регулирования последовало за указомdent Джо Байдена, подписанным в октябре 2023 года. Указ требует от разработчиков технологий искусственного интеллекта представлять результаты испытаний на безопасность правительству США до выпуска своих технологий в открытый доступ. Проект, опубликованный Министерством торговли, соответствует этой более широкой цели, направленной на защиту национальной безопасности, общественного здравоохранения и экономики страны от угроз, исходящих от искусственного интеллекта.

Это предложение также является продолжением предыдущих усилий, предпринятых администрацией Байдена, по дальнейшему применению мер, которые предотвратят доступ Китая к американским технологиям для разработки искусственного интеллекта, что свидетельствует о растущих опасениях по поводу безопасности в этой постоянно расширяющейся отрасли.