기존 입법이 AI로 인한 피해로부터 보호하는 데 부족한 이유

인공지능(AI)이 빠르게 발전함에 따라 전 세계 규제당국과 입법자들은 이 기술로 인한 잠재적 피해를 예측하고 완화하는 과제를 안고 있다. 많은 이들이 차별 금지, 평등 권리, 노동 시장 규칙, 데이터 보호 규정과 같은 기존 법률이 새로운 AI로 인한 피해로부터 개인을 보호하기에 충분할 것이라고 주장해 왔다. 그러나 데이터와 AI 혜택의 공정한 분배를 옹호하는 것으로 알려진 영국의 아다 로블레스 연구소는 이러한 관점에 대해 설득력 있는 반론을 제시했다. 다양한 시나리오를 검토한 결과, 해당 연구소는 개인을 AI 위협으로부터 보호하는 데 있어 법적 체계에 상당한 격차가 있음을 드러냈다.

시나리오 1: 시간제 계약 근로자에 대한 AI 평가

이 시나리오에서 AI는 창고의 시간제 계약 근로자의 생산성과 가용성을 평가하는 데 사용된다. 알고리즘적 결정은 근로자의 생산성에 따라 해고, 근무 시간 축소 또는 임금 감액으로 이어질 수 있다. 또한 시스템은 현재 직원들과의 유사성을 바탕으로 잠재적 근로자에 대해 추론하여, 지속적인 모니터링으로 인해 열악한 근무 조건을 초래할 수 있다.

시나리오 2: 주택 담보 대출 신청자를 위한 생체 인식 분류

또 다른 우려되는 시나리오는 주택 담보 대출 기관이 AI를 사용하여 신청자의 음성 패턴을 생체 인식적으로 분류하는 것이다. 이러한 도구는 특정 억양을 가진 개인들에게 불공정하게 차별을 초래할 수 있으며, 이는 인종, 지역 배경 또는 장애와 관련이 있을 수 있다.

시나리오 3: 상담용 챗봇의 잘못된 조언

세 번째 시나리오는 노동연금부(DWP)가 복지 혜택 자격에 대해 사람들에게 알리기 위해 상담용 챗봇을 도입하는 것이다. 그러나 챗봇이 부정확한 조언을 제공하여 사람들의 기록이 잘못 업데이트되는 결과가 발생한다.

기존 규제와 한계

기존 규제는 이러한 시나리오의 일부 측면을 다루고 있지만, AI로 인한 피해로부터 효과적인 보호를 제공하지는 않는다. 예를 들어, GDPR(일반 데이터 보호 규정)은 챗봇의 잘못된 조언을 다룰 수 있지만, 영향을 받은 개인들에게 적절한 구제를 제공하지는 않는다. 강력한 보호를 위해서는 몇 가지 핵심 요소가 필요하다.

1. 집행 가능한 규제 요구사항: AI 운영자 및 의사결정자가 무엇을 할 수 있고 무엇을 할 수 없는지에 대한 명확한 지침이 있어야 한다. 그러나 많은 영국 규제 기관은 효과적인 준법 준수를 집행하기 위해 자원, 정보 및 권한의 제약에 직면해 있다.

2. 구제 권리: 개인은 AI 시스템으로 인해 피해를 입었을 때 구제를 요청할 수 있는 능력을 가져야 한다. 그러나 일반인들이 민사 법원에서 GDPR 권리를 집행하는 것은 복잡하고 비용이 많이 들며 시간이 많이 소요될 수 있다.

3. 투명성 및 상황적 투명성: 개인은 자신에게 영향을 미치는 AI 결정에 대해 의미 있고 상황 기반의 투명성에 접근할 수 있어야 한다. 불행히도 현재의 투명성 요구사항은 미흡하며, 운영자는 종종 상업적 이익을 위협할 경우 투명성을 제한할 수 있다.

투명성 부재의 문제

모든 시나리오에 걸쳐 아다 로블레스 연구소는 투명성의 중요한 역할을 강조한다. 그러나 GDPR의 투명성 요구사항조차도 개인에게 AI 결정에 대한 설명권을 부여하지는 않는다. 또한 AI 기반 결정은 개인이 이를 의문시하는 것을 방해하여, 제한된 투명성 문제를 악화시킬 수 있다.

기존 입법은 개인을 AI로 인한 피해로부터 충분히 보호하지 못한다. 아다 로블레스 연구소가 제시한 예시는 현재 법적 체계에 상당한 격차가 있음을 보여주며, 이는 개인들을 잠재적 차별, 부당한 대우 및 AI 시스템에 의한 잘못된 결정으로부터 취약하게 만든다. AI가 모두에게 혜택을 주고 선한 영향력을 유지하도록 보장하기 위해, 규제 기관은 이러한 격차를 신속히 해결하고 AI 기술의 예상치 못한 결과로부터 진정한 보호를 제공하는 입법을 제정해야 한다. 적극적이고 포괄적인 조치를 통해서만 개인의 권리를 보호하고 AI의 윤리적 개발을 촉진할 수 있다.

참고: 이미지는 영화 누아르를 연상시키며, 어두운 톤과 강렬한 조명이 AI 위협의 불길한 성격을 강조합니다.