EU 인공지능법이 발효되었으며, 준수 기한 및 벌칙 사항이 자세히 명시되어 있습니다

유럽연합 의회에서 통과된 지 5개월 만에 유럽연합 인공지능(AI) 법이 마침내 발효되었습니다. 이 법은 AI 분야의 획기적인 규정으로 자리매김했으며, 다른 국가들이 이 신흥 분야를 규제하는 데 있어 기준점이 될 수 있을 것으로 기대됩니다.

하지만 인공지능법 시행 시기가 정해져 있어 즉시 발효되지는 않습니다. 이는 기업들이 해당 분야의 발전에 발맞춰 법을 준수할 시간을 더 주고, 회원국들이 법 집행에 필요한 준비를 갖추도록 하기 위한 것입니다.

AI 활용 사례는 위험도에 따라 분류됩니다

이 법은 위험도에 기반한 분류 시스템을 채택하여 각 AI 기업에 적용될 규칙을 결정합니다. 위험도는 무위험, 최소 위험, 고위험, 금지로 나뉘며, AI 시스템이 어느 범주에 속하는지에 따라 해당 시스템의 운영과 관련된 규칙이 발효되는 시점이 결정됩니다.

금지 AI 시스템을규제 당국은 인터넷에서 정보를 수집하여 얼굴 인식 데이터베이스를 확장하거나 사용자를 조작하여 특정 결정을 내리도록 하는

고위험 애플리케이션 범주에 속하는 AI 시스템은 8월 1일부터 6개월 이내에 해당 시스템에 적용되는 엄격한 규정을 준수해야 합니다. 고위험으로 분류되는 AI 시스템에는 얼굴 인식, 생체 인식, 중요 공공 서비스, 교육, 고용 및 의료 소프트웨어에 사용되는 시스템이 포함됩니다.

해당 그룹의 요구 사항에는 규제 기관의 감사를 위해 훈련 데이터 세트를 제출하고 인적 감독에 대한 증거를 제공하는 것이 포함됩니다. 또한 시판 전 적합성 테스트를 수행해야 합니다. 정부 기관이나 공공 서비스에서 사용되는 고위험 시스템의 경우 개발자는 EU 데이터베이스에 등록해야 합니다.

한편, AI 시스템의 약 85%는 위험도가 낮은 범주에 속하며, 보다 유연한 규정이 적용됩니다. 그럼에도 불구하고, 해당 법은 위반 행위를 억제하기 위한 처벌 조항을 마련해 놓았습니다. 기업이 금지된 AI 시스템을 위반할 경우 전 세계 연간 매출액의 7%에 달하는 벌금이 부과될 수 있으며, 규제 당국에 허위 정보를 제공할 경우에는 1.5%의 벌금이 부과될 수 있습니다.

제약 조건이 최소화된 생성형 인공지능

생성형 AI 시스템 개발자들의 우려는 크지 않습니다. 해당 법안은 이러한 모델들을 범용 AI(GPAI)의 예로 분류하고 대부분을 최소 위험군으로 분류하기 때문입니다. 따라서 MetaAI, ChatGPT, Perplexity, Claude AI 등과 같은 주요 AI 챗봇들은 큰 영향을 받지 않을 것입니다.

이 법안은 인공지능 기업들이 훈련 데이터를 공개하는 등 투명성을 높이도록 요구할 뿐입니다. 또한 EU 저작권 규정을 준수하도록 요구하고 있습니다. 그러나 일부 일반화 인공지능(GPAI)은 시스템적 위험을 초래할 만큼 중요하다고 여겨집니다. 이는 특정 수준 이상의 컴퓨팅 성능을 사용하여 훈련된 인공지능을 의미합니다.

흥미롭게도, EU는 일반 정보 교환(GPAI) 관련 규칙 시행에 대한 책임도 지지만, 법에 따른 일반 규칙 시행은 각 국가가 담당합니다. 각국은 2025년 8월까지 자국 내에서 법을 시행할 기구를 설립해야 합니다.

한편, 해당 법안의 여러 측면에 대해서는 여전히 불분명한 부분이 많습니다. 특히, GPAI 개발자가 법안에 따라 준수해야 하는 구체적인 지침이 그렇습니다. 규제 당국은 이를 위해 행동 강령을 개발하고 있으며, 인공지능 사무국이 주도적인 역할을 하고 있습니다.

인공지능 생태계를 모니터링하고 구축하는 기관인 해당 사무국은 최근 의견 수렴 절차를 발표하고 모든 이해관계자에게 규칙 제정 과정에 참여해 줄 것을 요청했습니다. 해당 사무국은 2025년 4월까지 관련 규정을 마련할 계획입니다.