Министерство торговли США предлагает новые правила отчетности для провайдеров ИИ и облачных услуг

Министерство торговли США предложило новые требования к отчетности для разработчиков передовых систем искусственного интеллекта и облачных провайдеров, чтобы обеспечить безопасность и защиту технологии.

Бюро промышленности и безопасности (BIS) четко дало понять, что компании, создающие передовые технологии, и предприятия, инвестирующие в создание суперкомпьютеров, будут обязаны представлять федеральным властям определенные ключевые этапы разработки. Эта тенденция направлена на снижение угроз безопасности, связанных с кибербезопасностью, и неправильным использованием ресурсов искусственного интеллекта.

Согласно новому предложению, разработчики будут обязаны раскрывать подробную информацию о своих системах искусственного интеллекта, особенно уделяя внимание мерам кибербезопасности и усилиям по «красному тестированию» (red-teaming). Красное тестирование — это техника в области кибербезопасности, которая оценивает вредоносное использование ИИ, такое как обеспечение кибертерроризма или содействие созданию оружия массового уничтожения.

Разработчики ИИ сталкиваются с новыми мандатами по отчетности о мерах кибербезопасности и тестировании рисков

Предложение Министерства торговли также потребует от разработчиков ИИ включать в свои отчеты результаты деятельности по красному тестированию, особенно тех, которые связаны с опасными возможностями, такими как кибератаки. Этот метод, возникший из симуляций времен холодной войны, выявляет риски путем моделирования атак или взломов.

Организации будут обязаны обновлять информацию о том, насколько хорошо их системы ИИ выдерживают атаки, даже со стороны иностранных интересов или негосударственных субъектов, которые могут захотеть злоупотребить системой в критических злонамеренных целях.

Генеративный ИИ, который может создавать текст, изображения или видео на основе пользовательских запросов, вызвал обеспокоенность. Хотя эта технология предлагает достижения во многих областях, она также усилила страхи перед возможными угрозами, такими как потеря рабочих мест, вмешательство в выборы и риск доминирования искусственного интеллекта над людьми.

Новые правила отчетности направлены на обеспечение безопасного и надежного развития моделей ИИ, снижая вероятность материализации этих рисков.

Облачные провайдеры обязаны соответствовать новым стандартам отчетности по безопасности и развитию ИИ

Помимо разработчиков искусственного интеллекта, предлагаемые правила также будут касаться облачных провайдеров услуг, таких как Amazon Web Services (AWS), Google Cloud и Microsoft Azure. Эти платформы, играющие ключевую роль в продвижении развития искусственного интеллекта, должны будут соблюдать строгие стандарты кибербезопасности своей инфраструктуры. Министерство торговли подчеркнуло, что эта информация важна для предотвращения злоупотребления технологиями США другими странами.

Регуляторный толчок следует за Исполнительным указом президента Джо Байдена, подписанным в октябре 2023 года. Указ требует, чтобы разработчики технологий искусственного интеллекта представляли результаты своих тестов безопасности правительству США перед выпуском своих технологий для общественности. Черновик, выпущенный Министерством торговли, соответствует этой более широкой цели, направленной на защиту национальной безопасности, общественного здоровья и экономики страны от угроз, posed by artificial intelligence.

Это предложение также следует за предыдущими усилиями, инициированными администрацией Байдена, по дальнейшему применению мер, предотвращающих доступ Китая к технологиям США для разработки искусственного интеллекта, что указывает на растущие опасения в отношении безопасности в этой постоянно расширяющейся отрасли.