AI법 – 규제 완화의 회색 지대 탐색

금요일 늦은 시간, 유럽연합 기관들은 치열한 삼자 협상 끝에 오랫동안 기다려온 AI법에 대한 잠정 합의를 달성했습니다. 그러나 이 중요한 전진의 축하 분위기 속에서, 이 규제 이정표를 규제 완화를 위한 위장으로 변질시킬 수 있는 잠재적인 구멍들에 대한 우려가 제기됩니다.

인공지능의 책임 있는 개발과 사용을 위한 프레임워크를 확립하는 것을 목표로 하는 AI법은 혁신과 사회적 보호 사이의 균형을 맞추기로 예상됩니다. 그러나 특히 마지막 순간의 협상에서 비롯된 합의의 미묘함은, 포괄적으로 보이는 입법 뒤에 숨겨진 진정한 의도에 대한 의문을 제기합니다.

AI법의 주요 구성 요소

유럽위원회가 처음 제안한 위험 기반 접근 방식의 핵심 원칙은 그대로 유지됩니다. 건강, 안전, 기본권, 환경, 민주주의 및 법치주의에 위협을 가하는 '고위험' AI 시스템은 특정 요구 사항의 적용을 받습니다. 그러나 필터링 조건이 추가됨에 따라, 특정 고위험 애플리케이션을 면제시킬 수 있는 잠재적인 구멍들에 대한 우려가 제기됩니다.

AI법은 인간의 행동을 조작하고, 취약점을 착취하며, 표적 없는 얼굴 이미지 스크래핑에 참여하는 등 허용되지 않는 위험을 초래하는 AI 시스템을 금지합니다. 금지 조치가 포괄적이지만, 직장에서의 감정 인식과 같은 안전상의 이유로 예외가 도입됨으로써 모호성과 잠재적인 구멍이 생깁니다.

시스템적 위험을 가진 '고영향' 파운데이션 모델을 포함한 파운데이션 모델에 대한 투명성 의무가 도입됩니다. stricter한 규칙은 모델 평가, 시스템적 위험 평가, 적대적 테스트, 사이버 보안 조치 및 사고 보고를 요구합니다. 그러나 조화로운 EU 표준이 확립될 때까지 행동 강령에 의존하는 것은 준수 측면에서 불확실성을 초래할 수 있습니다.

차별적인 국가 감시 및 법 집행에서의 AI에 대한 우려를 다루기 위해 기본권 영향 평가(FRIA)가 포함되었습니다. 그럼에도 불구하고, 법 집행 기관에 대한 면책 조항은 FRIA가 고위험 AI 도구의 유해한 배포를 방지하는 효과성에 대한 의문을 제기합니다.

AI법 위반 시 전 세계 연간 매출의 7% 또는 3,500만 유로에서, 경미한 위반 시 1.5% 또는 750만 유로의 벌금이 부과됩니다. 벌금 조치는 준수를 강제하려는 목적이 있지만, '비례적 상한선'을 통해 우회할 가능성에 대한 우려가 제기되며, 이는 대형 기업에 유리하게 작용하여 위험한 AI 프로젝트를 스타트업에 위임하도록 장려할 수 있습니다.

AI 사무국과 이사회가 거버넌스 구조를 형성합니다. 위원회 내의 사무국은 고급 AI 모델을 감독하는 반면, 회원국 대표들로 구성된 이사회는 조정 플랫폼 역할을 합니다. 사회적 이해관계자가 기술 전문가로 제한적으로 포함됨으로써, 시민사회가 AI 규제 형성에 미치는 목소리가 약화될 수 있습니다.

AI법에서 탐구되지 않은 격차와 우려 사항

티에리 브르통 및 기타 주요 인물들이 혁신과 보호 사이의 균형에 대해 확신을 표현함에도 불구하고, AI법의 잠재적인 구멍들에 대한 우려는 지속됩니다. 금요일 밤 늦은 기자회견에서 관리들은 필터 조건과 예외가 고위험 애플리케이션이 심사를 피할 수 있게 할 수 있음을 인정했습니다. 생체 인식 시스템 금지 및 긴급 상황에서의 고위험 AI 도구 배포와 같은 이슈들은 법의 효능에 대한 의심을 제기합니다.

AI법이 단순한 규칙집을 넘어 EU 스타트업과 연구원들이 글로벌 AI 경쟁에서 주도권을 잡을 수 있는 플랫폼으로 기능한다는 티에리 브르통의 주장은, EU가 인공지능 분야에서 prominent한 힘으로 입지를 확립하려는 내재된 야망을 시사합니다. 비판자들은 이것이 엄격한 규제보다 EU 기반 AI 기업들의 지원과 발전을 우선시하는 규제 완화 접근법을 반영한다고 주장합니다.

AI법이 현실이 되어감에 따라, 그 효과성과 잠재적인 구멍에 대한 논쟁이 격화됩니다. 이 입법이 혁신을 장려하고 사회를 보호하는 균형을 진정으로 맞추는 것일까, 아니면 신중하게 위장된 규제 완화 전략일까? 향후 몇 달 동안 AI법에 대한 진정한 영향이 유럽연합 내외의 AIlandscape에 드러날 것입니다.