더 건강한 인터넷과 신뢰할 수 있는 AI를 위한 기술 거버넌스의 페미니스트 접근법 수용

2023년 9월, Mozilla Foundation은 MozFest House: Kenya를 주최하여 건강한 인터넷과 신뢰할 수 있는 AI라는 중요한 주제를 깊이 있게 다루기 위해 다양한 이해관계자들을 모았습니다. 그중에는 기술 거버넌스에 대한 페미니스트 관점을 요구하는 논의도 포함되었습니다. 옥스퍼드 인터넷 연구소의 박사 연구원인 Rutendo Chabikwa와 Nancy Salem은 이 페미니스트 접근법을 채택해야 하는 사례를 열정적으로 제시하며, 건강한 인터넷과 신뢰할 수 있는 AI를 보장하는 데 왜 이것이 필수적인지 조명했습니다.

MozFest 2023: 목소리의 합류

MozFest House: Kenya는 Mozilla Foundation이 조직한 이틀간의 지역 모임이었습니다. 이는 빌더, 연구자, 정책 입안자, 활동가, 시민 사회 조직, 자선가 등 다양한 개인들을 모았습니다. 이 행사는 책임 있는 기술에 대한 아프리카 관점을 중심으로 건강한 인터넷과 신뢰할 수 있는 AI와 관련된 중요한 문제를 탐구하는 것을 목표로 했습니다. 그중 중요한 하이라이트 중 하나는 AI의 구조적 개입에 대한 토론 패널로, 이는 Rutendo Chabikwa와 Nancy Salem이 "페미니스트 기술 거버넌스의 사례"라는 매력적인 세션을 진행할 수 있는 기반을 마련했습니다.

페미니스트 기술 거버넌스 및 신뢰와 안전의 재정의

세션은 기술이 본질적으로 사회정치적이라는 인정으로 시작되었습니다. Dr. Kim Crayton의 말처럼 "기술은 중립적이지 않으며, 정치적으로도 중립적이지 않습니다." 이러한 인식은 인종차별, 성차별, 장애주의, 신자유주의 자본주의, 이성애 규범성 등 기존의 억압 시스템이 기술의 기능, 사용 및 사회적 영향에 깊이 관여한다는 점을 강조하므로 매우 중요합니다. 핵심은 기술 거버넌스가 페미니스트 문제로써 단순히 현재의 배제적이고 불평등한 기술 개발 시스템에 여성과 성소수자를 추가하는 것을 넘어선다는 것입니다. 대신 기술에 내재된 체계적 불평등을 해결해야 합니다.

토론은 기술 접근성만으로는 디지털 기술이 여성과 성소수자에게 가할 수 있는 피해를 제거할 수 없다는 점을 강조했습니다. 디지털 격차를 해소하기 위한 노력이 중요하지만, 디지털 기술이 기존 불평등을 악화시킬 수 있는 방법에 대한 더 깊은 이해와 보완되어야 합니다.

권리: 복잡한 지형

동시대 디지털 권리에 대한 이해는 기술 특이적 피해로부터 보호하기 위해 미묘해야 합니다. '잊힐 권리'와 '사생활 보호권'과 같은 예시는 이러한 복잡성을 강조합니다. 또한 권리를 맥락화하는 것이 필수적입니다. 많은 아프리카 맥락에서 기술 접근은 공동체적이며, 일부 여성과 성소수자는 공유된 기기나 공간을 통해 접근합니다. 이러한 복잡한 설정에서 이러한 권리를 보호하는 정책을 수립하는 것은 도전 과제입니다.

권리에 대한 논의에서 권력 역학을 인정하는 것도 중요한 논의 주제였습니다. 참가자들은 인권 담론이 종종 특정 집단에게 무력한 자를 보호할 수 있는 권력을 부여하여 불평등을 영속시킬 수 있다고 지적했습니다. 개인이 구제를 구할 수 있도록 권한을 부여하는 것이 권리를 보호하는 핵심 측면으로 식별되었습니다.

기기 접근성을 넘어선 자원

기술적 기기에 대한 공정한 접근이 중요하지만, 기술 거버넌스의 페미니스트 접근법은 기술 부문에서 자원의 개념을 확장합니다. 여기에는 기술 개발에 필요한 자원이 포함됩니다. 디지털 기술의 물리적 인프라는 종종 착취적인 추출 관행을 수반하며, 기술 하드웨어에 사용되는 많은 광물이 인권 유린을 통해 분쟁 지역으로부터 추출됩니다. 페미니스트 관점은 이러한 자원의 조달에 대한 검사를 요구합니다.

또한 참가자들은 특히 기가 노동(gig labor)을 포함한 인간 노동을 단순히 고객이나 사용자가 아닌 기술 회사의 자원으로 바라볼 필요성을 강조했습니다. 이러한 관점의 전환은 신뢰와 안전 정책에서 페미니스트 원칙과 일치하는 여성과 성소수자에 대한 더 강력한 보호로 이어질 수 있습니다.

표현에 대한 토론은 기술의 코딩과 개발에 여성을 포함하는 것을 넘어선 것의 중요성을 강조했습니다. 기술의 사회정치적 성격을 인정하는 참가자들은 이해관계 공동체가 기술 배포에 적극적으로 참여해야 한다고 제안했습니다. 이는 User Experience Research(UXR) 접근법이 기술 거버넌스와 신뢰 및 안전 정책에 효과적으로 어떻게 기여할 수 있는지에 대한 토론으로 이어졌습니다.

사회기술적 연구와 페미니스트 기술 거버넌스

세션은 기술의 사회기술적 성격을 깊이 탐구하며, 기술이 사회 구조와 기술적 능력의 교차점에서 나타난다는 점을 강조했습니다. 이러한 학제간 접근법은 학계, 빌더, 시민 사회가 기술 거버넌스 우선순위를 식별하기 위해 협력할 잠재력을 강조했습니다. 민족지학과 UXR과 같은 다양한 방법론은 기술 사용자를 중심으로 하여 거버넌스 결정에 통찰력을 제공할 수 있습니다.

두 가지 연구 프로젝트가 발표되었으며, 이는 Gig Economy에서 여성과 성소수자의 경험을 조사한 것입니다. 이러한 프로젝트는 기술의 안전 메커니즘을 평가하는 복잡성을 보여주었습니다. 예를 들어, 라이드셰어링 앱에서 운전자 안전을 강화하기 위해 고안된 메커니즘은 종종 우발적으로 운전자들에게 추가적인 위험을 노출시킵니다. 성공적인 안전 메커니즘으로부터의 학습과 제도적 기억의 필요성이 드러났으며, 이는 개별 플랫폼 규제를 넘어 거버넌스의 중요성을 강조합니다.

사용자에게 권한을 부여하기 위한 향후 방향

토론은 권리 침해 시 구제를 요청할 수 있도록 개인이 권한을 부여받을 때만 거버넌스 구조가 효과적임을 강조했습니다. 사회기술적 연구는 기술이 어떻게 설계되고 사용자의 일상생활에 어떤 영향을 미치는지를 파악하는 데 중요한 역할을 합니다. 기술 사용자의 실제 경험을 이해하는 것은 효과적이고 공정한 거버넌스 원칙을 형성하기 위한 증거를 제공합니다.

더 건강한 인터넷과 신뢰할 수 있는 AI를 보장하기 위해 기술 거버넌스에 페미니스트 접근법을 수용하는 것이 중요합니다. 이 접근법은 상징적인 대표성을 넘어 기술의 기반, 즉 권리, 자원, 그리고 대표성까지 포괄합니다. MozFest House: Kenya는 의미 있는 논의와 협력을 위한 플랫폼을 제공했으며, 페미니스트 관점이 더 포용적이고 공정한 기술 환경을 형성하는 데 필수적임을 강조했습니다.