EU, '불허용 위험'으로 분류된 모든 AI 기술 금지

오늘부터 유럽연합은 '불허용 위험'으로 분류한 AI 시스템의 문을 완전히 닫았습니다. 이는 논쟁의 여지가 없습니다.

규제 당국은 이제 제품 라인을一夜 사이에 완전히 삭제할 권한을 갖게 되었습니다. EU AI 법에 따른 첫 번째 준수 기한은 항상 2월 2일에 시작될 예정이었으며, 블록의 메시지는 명확합니다. 이 규칙을 위반하면 3,500만 유로(약 3,600만 달러) 또는 전 세계 매출의 7% 중 더 큰 금액을 내야 합니다.

유럽 의회는 alleged fine-tuning 이라는 수년 간의 논란 끝에 지난 3 월 AI 법안을 가결했습니다. 8 월 1 일에는 이미 해당 법률이 시행되었습니다. 이제 전 산업의 기업들은 이를 수용해야만 합니다.

EU의 제재 대상에는 어떤 것들이 포함됩니까?

EU 의 블랙리스트는 AI 의 어두운 측면들을 포함합니다. 행동이나 평판을 기반으로 사람을 점수 매기는 시스템, 즉 중국이 운영하는 디스토피아적 사회신용시스템 같은 것은 잊으십시오. 그런 것들은 더 이상 허용되지 않습니다. 교묘한 기교나 무의식적 메시지를 통해 사람들의 선택을 조작하도록 설계된 AI 또한 금지됩니다.

또한, 연령이나 장애 등 취약점을 악용해 사람을 조작하는 AI도 금지됩니다. 그리고 역사에 남을 만한 한 가지: EU는 얼굴 특징을 기반으로 범죄 저지 여부를 예측하는 것을 불법으로 규정했습니다.

AI 가 성별, 성적 지향 또는 정치적 신념에 대한 추정을 위해 생체 데이터를 채굴한다면 짐을 싸서 떠나야 합니다. EU AI 법에 따르면 실시간 생체 모니터링은 매우 구체적인 조건을 충족하는 경우를 제외하고는 법 집행 기관에도 금지됩니다.

이는 '잠재적 용의자'를 잡기 위해 지하철역이나 공공 행사장에서 얼굴 스캔을 하는 것을 의미하지 않습니다. 또한 감정 추적 AI 는 의료 치료나 안전과 관련된 드문 경우를 제외하고 학교와 직장에서 사용이 금지되었습니다.

이러한 금지는 EU 국경 내에서 운영되는 모든 기업에 적용됩니다. 본사가 어디인지 중요하지 않습니다. 실리콘밸리 거대 기업, 아시아 AI 스타트업, 유럽 연구소 등 어떤 기업이든 제한된 시스템을 사용할 경우 EU 는 벌금을 부과하겠다고 경고합니다.

기업들은 규제 준수 여부를 두고 갈라섰다

2024 년 9 월 구글, 오픈AI, 아마존을 포함한 100 개 이상의 기술 기업이 EU AI 협약을 서명했습니다. 이 자발적 약속에서 기업들은 법의 기한보다 앞서 AI 프로젝트를 개선하고, 고위험 또는 금지 카테고리에 해당할 수 있는 시스템을 식별하겠다고 약속한 것으로 알려졌습니다.

흥미롭게도 메타, 애플, 그리고 프랑스 AI 회사 미스트랄은 2024 년 10 월 규제가 너무 경직되어 혁신을 저해할 것이라고 주장하며 단호히 거절했습니다.

그렇다고 해서 Pact를 위반하지 않았더라도 법을 따르지 않는 것은 면제되지 않습니다. 현실적으로 대부분의 테크 기업들은 금지된 카테고리에조차 손을 대지 않고 있습니다.

하지만 EU AI 법에 따르면, 경찰 등 법 집행 기관은 공공장소에서 생체 데이터를 수집하는 AI 시스템을 여전히 사용할 수 있으나, 사전에 관할 기관의 승인을 받아야 합니다. 이 예외 조치는 실종자 추적이나 임박한 공격 차단과 같은 비상 상황, 그리고 의료적 또는 안전상의 이유로 정당화될 때 한 학교와 사무실에서의 감정 인식 AI 에게 적용됩니다.

하지만 AI 법은 고립되어 작동하지 않습니다. 일반 데이터 보호 규정 (GDPR), 네트워크 및 정보 보안 지침 (NIS2), 디지털 운영 복원력 법 (DORA) 모두 데이터 처리 및 보안에 대한 중첩된 요구사항을 가지고 있습니다.