Сенатор от штата Колорадо намерен разработать политику безопасности для использования ИИ

В рамках важного шага на пути к более безопасному использованию ИИ сенатор от штата Колорадо Джон Хикенлупер инициировал план по созданию правил аудита ИИ. Сосредоточившись на разработке четких стандартов для проверок систем ИИ, Хикенлупер обратился к отраслевым экспертам и ключевым игрокам за советом. Эта работа призвана помочь в разработке законодательства, гарантирующего эффективность и безопасность технологий ИИ.

Стандарты ремесла в Колорадо

Стратегия Хикенлупера предполагает совместные усилия под руководством Министерства торговли. Цель состоит в разработке добровольных стандартов, которые будут служить руководством дляdent аудитов технологий искусственного интеллекта. В февральской речи Хикенлупер подчеркнул важность внешнего надзора за индустрией ИИ, указав на необходимость избегать саморегулирования, учитывая потенциальные риски. 

«Если мы не будем осторожны и не направим ИИ в нужное русло, это может привести к вытеснению огромного количества работников без учета их дальнейших планов. Это лишь один из тысяч решений, принимаемых сегодня, которые будут иметь последствия для будущих поколений», — заявил сенатор Хикенлупер. 

Привлечение квалифицированных сторонних организаций к аудиту систем искусственного интеллекта направлено на обеспечение соответствия федеральным законам и защиту от непредвиденного вреда. 

Подробности анкеты

Офис сенатора распространил анкету, охватывающую ключевые аспекты аудита систем искусственного интеллекта, включая частоту и объем аудитов, требования к прозрачности, соответствие нормативным требованиям и общую экосистему аудита.

Данный опросник, собранный на платформе Nextgov/FCW, предназначен для получения подробной информации, которая поможет defiэффективные и практичные стандарты аудита. Одним из ключевых моментов является вопрос о том, как эти стандарты могут быть адаптированы для различных этапов разработки программного обеспечения, учитывая уникальные проблемы, возникающие в процессах разработки на начальных и конечных этапах.

Практика оценки входных и выходных данных системы искусственного интеллекта на предмет высокого качества и безопасности результатов независимой третьей стороной известна как аудит ИИ. Офис Хикенлупера подтвердил происхождение вопросов и заявил, что они будут использованы для разработки будущих законодательных инициатив, а также нормативно-правовой базы, которую он представил в начале февраля.

Хикенлупер задает очень обстоятельный вопрос относительно масштабов аудита. Законодатель в первую очередь рассматривает различия между разработкой на всех этапах, касающимися архитектуры программного обеспечения, и разработкой на всех этапах.

Кроме того, в нем также рассматривается вопрос о том, можно ли включить в стандарты аудита ИИ дополнительные требования, такие как доступ к данным для обучения моделей ИИ, прямая оценка результатов работы системы, внутреннее тестирование и качественная оценка. 

Благодаря такому проактивному подходу Хикенлупер закладывает основу для нормативно-правовой базы, которая обещает сделать технологии искусственного интеллекта более безопасными и надежными. Приоритетное внимание к прозрачности, соблюдению нормативных требований и благополучию общества делает эту инициативу важным шагом вперед в ответственном развитии и внедрении ИИ.