Закон об ИИ – Навигация в серых зонах дерегулирования

Поздно в пятницу институты Европейского Союза достигли предварительного соглашения по давно ожидаемому Закону об ИИ после интенсивных переговоров в формате триалога. Однако на фоне празднования этого значительного шага вперед возникают опасения относительно потенциальных лазеек, которые могут превратить этот регуляторный рубеж в прикрытие для дерегулирования.

Закон об ИИ, направленный на создание рамок для ответственного развития и использования искусственного интеллекта, должен обеспечить баланс между инновациями и защитой общества. Однако сложность соглашения, особенно возникшая в ходе переговоров в последнюю минуту, вызывает вопросы о истинных намерениях, стоящих за кажущейся всеобъемлющей законодательной базой.

Ключевые компоненты Закона об ИИ

Основной принцип риск-ориентированного подхода, изначально предложенный Европейской комиссией, остается неизменным. Системы ИИ «высокого риска», представляющие угрозу для здоровья, безопасности, фундаментальных прав, окружающей среды, демократии и верховенства права, подлежат специфическим требованиям. Однако добавление условий фильтрации вызывает опасения относительно потенциальных лазеек, которые могут освободить определенные приложения высокого риска от этих требований.

Закон об ИИ запрещает системы ИИ, создающие неприемлемые риски, включая те, которые манипулируют человеческим поведением, эксплуатируют уязвимости и занимаются сбором изображений лиц без целевой ориентации. Хотя запрет является всеобъемлющим, исключения в целях безопасности, такие как распознавание эмоций на рабочем месте, вносят неоднозначность и создают потенциальные лазейки.

Введены обязательства по прозрачности для базовых моделей, особенно «высокоэффективных» моделей с системным риском. Более строгие правила требуют оценки моделей, оценки системных рисков, тестирования на устойчивость к враждебным воздействиям, мер кибербезопасности и отчетности об инцидентах. Однако опора на кодексы практики до установления гармонизированных стандартов ЕС может создать неопределенность в вопросах соблюдения требований.

Включение оценки воздействия на фундаментальные права (FRIA) решает проблемы, связанные с дискриминационным государственным надзором и использованием ИИ в правоохранительных органах. Тем не менее, исключения для правоохранительных органов вызывают вопросы об эффективности FRIA в предотвращении вредоносного развертывания инструментов ИИ высокого риска.

Нарушения Закона об ИИ повлекут за собой штрафы в размере от 35 млн евро или 7% глобального годового оборота до 7,5 млн евро или 1,5% оборота за менее серьезные нарушения. Хотя штрафы направлены на обеспечение соблюдения, возникают опасения относительно потенциального обхода через «соразмерные ограничения», что благоприятствует крупным компаниям и поощряет их делегировать рискованные проекты по ИИ стартапам.

Создание Управления по ИИ и Совета формирует структуру управления. Управление в составе комиссии контролирует продвинутые модели ИИ, в то время как Совет, состоящий из представителей государств-членов, действует как координационная платформа. Ограниченное включение общественных заинтересованных сторон в качестве технических экспертов может уменьшить голос гражданского общества в формировании регулирования ИИ.

Неизученные пробелы и проблемы в Законе об ИИ

Несмотря на утверждения ключевых фигур, таких как Тьерри Бретон и других, выражающих уверенность в балансе между инновациями и защитой, опасения относительно потенциальных лазеек в Законе об ИИ сохраняются. На пресс-конференции поздно вечером в пятницу официальные лица признали, что условия фильтрации и исключения могут позволить приложениям высокого риска избежать проверки. Вопросы, такие как запрет на системы биометрической идентификации и развертывание инструментов ИИ высокого риска в экстренных обстоятельствах, вызывают сомнения в эффективности закона.

Утверждение Тьерри Бретона о том, что Закон об ИИ выходит за рамки простого свода правил, функционируя как платформа для стартапов и исследователей ЕС, чтобы возглавить гонку в области глобального ИИ, подразумевает внутреннюю амбицию утвердить ЕС как заметную силу в сфере искусственного интеллекта. Критики утверждают, что это отражает подход к дерегулированию, при котором поддержка и продвижение европейских компаний в области ИИ ставятся выше строгих регуляторных требований.

По мере того как Закон об ИИ приближается к воплощению в реальность, дебаты вокруг его эффективности и потенциальных лазеек усиливаются. Действительно ли законодательство обеспечит баланс между стимулированием инноваций и защитой общества, или это тщательно замаскированная стратегия дерегулирования? Ближайшие месяцы раскроют истинное влияние Закона об ИИ на ландшафт ИИ в Европейском Союзе и за его пределами.