EU 입법자, AI 법안 합의 도출

중요한 발전으로, 브뤼셀의 유럽연합 의원들이 장기적으로 기대되어 온 '인공지능법 (AI Act)'에 대해 '임시 합의'에 도달하는 획기적인 성과를 거두었습니다. 이 역사적인 입법은 EU 내 인공지능을 규율할 포괄적인 규칙 체계를 마련할 것으로 예상되며, 진화하는 인공지능 규제 환경에서 다른 국가들에게도 선례가 될 수 있습니다.

EU의 AI Act는 치열한 협상의 대상이었으며, 최근 라운드는 고영향 범용 인공지능 (GPAI) 시스템에 대한 엄격한 의무 사항을 명시한 임시 합의로 결실을 맺었습니다. 이러한 의무에는 위험 평가, 적대적 테스트, 사고 보고, 그리고 기술 문서 및 훈련 데이터에 대한 상세 요약 제공을 요구하는 투명성 의무 등 중요한 기준이 포함됩니다. 이는 ChatGPT 제작사인 오픈AI를 포함한 일부 AI 기업들이 이전에 저항해 왔던 요구사항입니다.

고영향 AI 시스템에 대한 의무 사항

이 입법적 틀 내에서 협상자들은 고영향 GPAI 시스템이 준수해야 할 의무를 신중하게 정의했습니다. 이러한 의무에는 엄격한 위험 평가와 적대적 테스트를 포함한 다양한 벤치마크가 포함되며, 이를 통해 고급 AI 시스템의 신뢰성과 윤리적 사용을 보장합니다. 또한 투명성 요구사항은 훈련에 사용된 콘텐츠에 대한 기술 문서 및 상세 요약서 작성을 필요로 하는데, 이는 책임과 공개와 관련된 우려를 해소하기 위한 것입니다.

또한, AI 법은 시민들이 '고위험'으로 분류되어 개인의 권리에 직접적인 영향을 미치는 AI 시스템에 대해 불만을 제기할 수 있는 권리를 부여하는 주목할 만한 조항을 도입했습니다. 이러한 시민 권한 강화 강조는 AI 기술 배포 시 책임성을 확보하고 투명성을 조성하겠다는 약속을 반영합니다.

보도 자료는 벤치마크에 대한 세부 사항까지 다루지는 않지만, 규정 위반 시 과태료를 부과하는 틀을 제시합니다. 이 과태료는 회사의 규모와 성질에 따라 달라지며, 3500 만 유로 또는 글로벌 매출의 7%에서 750 만 유로 또는 글로벌 매출의 1.5% 사이입니다.

금지된 AI 애플리케이션 및 진행 중인 협상

AI 법은 또한 프라이버시, 차별, 조작과 관련된 우려를 해소하기 위해 AI 기술의 여러 적용을 명시적으로 금지합니다. 금지된 활동에는 CCTV 영상에서 얼굴 이미지를 스크래핑하거나 인종이나 성적 지향성 등 민감한 특성에 기반한 분류, 직장 또는 학교 환경에서의 감정 인식, 그리고 사회적 채점 시스템 구축이 포함됩니다. 또한 인간의 자유 의지를 우회하도록 행동을 조작하거나 취약점을 악용하는 AI 시스템은 엄격히 금지됩니다.

임시 합의가 이루어졌음에도 불구하고 실시간 생체정보 모니터링, 특히 얼굴 인식과 오픈에이의 ChatGPT와 같은 범용 기초 AI 모델의 거버넌스 등 중요한 분야에서 협상이 계속되고 있습니다. 이러한 논의는 분열적인 논쟁으로 인해 임시 합의 발표가 지연되는 특징을 보였습니다. 특히 EU 의원들은 생체정보 감시에 대한 완전한 AI 금지를 주장한 반면, 각국 정부는 군사, 치안 및 국가 안보 관련 응용 프로그램에 대한 예외를 요구하고 있습니다. 생성형 AI 모델에 대한 자율 규제를 허용하려는 프랑스, 독일, 이탈리아의 최근 제안은 지속적인 심의에 더 큰 영향을 미쳤습니다.

협상이 계속되는 가운데 포괄적인 합의는 연내 최종화될 것으로 예상되지만, AI 법의 시행은 최소한 2025 년까지 지연되어 의회 내부시장 및 시민자유 위원회의 추가 심의와 표결이 가능해질 전망이다.

EU 의 AI 법으로 내일을 설계하다

유럽이 포괄적인 AI 규제에 앞장서는 획기적인 단계를 밟으면서, AI 법안에 대한 잠정 합의는 AI 거버넌스의 미래 방향성에 관한 중대한 질문을 제기합니다. 진행 중인 협상이 EU 내 AI 규제의 최종 지형도를 어떻게 형성할 것이며, 이 획기적인 입법으로부터 어떤 글로벌 파급효과가 나타날까요? 이러한 질문에 대한 답은 AI 배포를 위한 균형 잡히고 책임 있는 프레임워크를 구축하는 열쇠가 되며, 인공 지능이 가져오는 도전과 기회를 마주하고 있는 국가들에게 잠재적 벤치마크를 제시할 것입니다.