EU, '용납할 수 없을 정도로 위험하다'고 판단되는 모든 AI 기술 금지

오늘부터 유럽연합은 "용납할 수 없을 정도로 위험하다"고 판단한 인공지능 시스템에 대해 전면적인 금지 조치를 내렸습니다. 이는 논쟁의 여지가 없습니다.

규제 당국은 이제 하룻밤 사이에 전체 제품 라인을 없앨 수 있는 권한을 갖게 되었습니다. EU의 인공지능법(AI Act)에 따른 첫 번째 준수 기한은 2월 2일로 예정되어 있었으며, EU는 이 규칙을 어길 경우 3,500만 유로(약 3,600만 달러) 또는 전 세계 매출의 7% 중 더 큰 금액을 벌금으로 내야 한다는 경고를 보냈습니다.

유럽 ​​의회는 승인했습니다 수년간의 세부 조정을 거쳐 지난 3월 인공지능법을

EU의 제거 대상 목록에는 무엇이 있을까요?

EU의 블랙리스트는 인공지능의 어두운 면들을 포괄합니다. 행동이나 평판을 기반으로 사람들에게 점수를 매기는 시스템, 예를 들어 중국이 운영하는 디스토피아적인 사회 신용 시스템은 말할 것도 없습니다. 그런 시스템은 금지됩니다. 교묘한 속임수나 잠재의식적 메시지를 통해 사람들의 선택을 조작하도록 설계된 인공지능 또한 금지됩니다.

또한, 취약점을 파악하는 인공지능, 예를 들어 나이나 장애를 이용해 조종하는 인공지능은 허용되지 않습니다. 그리고 역사에 길이 남을 만한 사례가 하나 있는데, EU는 얼굴 특징을 기반으로 범죄 가능성을 예측하는 것을 불법으로 규정했습니다.

인공지능이 생체 데이터를 분석하여 성별, 성적 지향 또는 정치적 신념에 대한 추측을 한다면, 당장 사업을 접으세요. EU 인공지능법에 따르면, 법 집행을 위한 실시간 생체 모니터링 또한 매우 특정한 조건을 충족하지 않는 한 금지되어 있습니다.

이는 "잠재적 용의자"를 잡기 위해 지하철역이나 공공 행사장에서 얼굴 스캔을 하는 것이 금지된다는 것을 의미합니다. 학교와 직장에서의 감정tracAI 사용도 의료 치료나 안전과 관련된 극히 드문 경우를 제외하고는 중단되었습니다.

이러한 금지 조치는 EU 국경 내에서 사업을 운영하는 모든 기업에 적용됩니다. 본사 위치는 중요하지 않습니다. 실리콘 밸리의 거대 기업이든, 아시아의 AI 스타트업이든, 유럽의 연구소든 모두 해당됩니다. 제한된 시스템을 사용하는 기업은 벌금을 내야 합니다.

대기업들, 규정 준수 문제로 의견 분분

2024년 9월, 구글, 오픈AI, 아마존을 포함한 100개 이상의 기술 기업들이 EU AI 협약이라는 자발적 서약에 서명했습니다. 이 협약에서 기업들은 법안 시행 기한 이전에 자사의 AI 프로젝트를 조기에 정화하고, 고위험 또는 금지 범주에 속할 수 있는 시스템을 파악하겠다고 약속한 것으로 알려져 있습니다.

흥미롭게도 메타, 애플, 그리고 프랑스의 AI 기업 미스트랄은 2024년 10월에 시행될 예정인 이 규제가 너무 경직되어 혁신을 저해할 것이라며 단호히 거부했습니다.

하지만, 협약을 건너뛴다고 해서 법을 준수해야 할 의무에서 면제되는 것은 아닙니다. 현실적으로 대부분의 기술 기업들은 금지된 범주에 해당하는 분야에는 아예 손도 대지 않고 있지만 말입니다.

하지만 EU 인공지능법에 따르면, 법 집행 기관은 AI 시스템을 공공장소에서 생체 데이터를 수집하는 trac이나 임박한 공격 저지와 같은 긴급 상황, 그리고 학교와 사무실에서 감정을 감지하는 AI 시스템에 적용되지만, 의료적 또는 안전상의 이유로 정당화될 경우에만 해당됩니다.

하지만 인공지능법은 독립적으로 운영되는 것이 아닙니다. 일반 데이터 보호 규정(GDPR), 네트워크 및 정보 보안 지침(NIS2), 디지털 운영 복원력법(DORA) 모두 데이터 처리 및 보안에 대한 요구 사항이 중복됩니다.