- AI 편향은 알고리즘이 특정 집단을 선호할 때 문제가 되지만, IEEE P7003 은 편향의 원인을 파악하고 해결책을 제시하여 AI 시스템을 더 공정하게 만듭니다.
- 알고리즘 편향은 개발 과정, 시스템 내부, 또는 사용자 상호작용으로 인해 발생할 수 있으며 정확성과 공정성에 영향을 미칩니다.
- IEEE P7003 은 편향 프로파일 사용, 다양한 팀 구성, 정기적 평가를 권장하여 모든 사람에게 혜택을 주는 윤리적 AI 시스템을 구축합니다.
오늘날 디지털 시대에는 개인화된 스트리밍 추천부터 의료 응용 프로그램에 이르기까지 인공지능(AI)이 일상생활에서 점점 더 중요한 역할을 하고 있습니다. 그러나 이러한 AI의 확산은 알고리즘 편향, 즉 AI 시스템이 근본적인 가정이나 불균형한 학습 데이터로 인해 편향된 결과를 생성하는 문제를 야기합니다.
이 문제를 정면으로 해결하기 위해 IEEE 표준 협회(IEEE SA)는 P7003 작업 그룹 을 출범시켜 편향을 완화하고 공정성을 보장하는 AI 시스템 구축을 위한 포괄적인 프레임워크를 마련했습니다.
AI의 시급한 우려 사항인 알고리즘 편향은 머신러닝 알고리즘이 우연히 특정 그룹이나 속성을 다른 것보다 선호하는 결과를 생성할 때 발생합니다. 이 편향은 종종 알고리즘이 학습된 데이터에 뿌리를 두고 있으며, 그 결과는 심각할 수 있습니다. 예를 들어, 주로 한 인구 통계학적 집단에 대해 학습된 얼굴 인식 소프트웨어는 다른 그룹의 오식별 또는 배제를 초래하여 국경 보안에서의 여행자 지연과 같은 실제 세계의 결과를 낳을 수 있습니다.
편향의 세 가지 원인
IEEE P7003 작업 그룹은 AI 시스템에 나타날 수 있는 세 가지 주요 편향 원인을 식별합니다.
알고리즘 개발자에 의한 편향: 이 유형의 편향은 개발자가 설정한 최적화 목표에서 비롯됩니다. 예를 들어, 비즈니스 시스템에서 근로자 산출량을 최대화하도록 설계된 알고리즘은 우연히 근로자의 건강을 무시하여 편향을 초래할 수 있습니다.
시스템 내 편향: 일부 시스템은 인종과 성별에 따른 얼굴 인식 정확도의 차이와 같이 다양한 카테고리 간에 본질적인 성능 차이를 보입니다.
시스템 사용자에 의한 편향: 사용자는 알고리즘 출력을 해석하고 행동할 때 편향을 도입할 수도 있습니다. 확인 편향, 즉 사용자가 사실 확인 없이 자신의 기존 신념과 일치하는 정보를 수용하는 것이 그 예입니다.
IEEE P7003의 역할
IEEE SA의 P7003 작업 그룹은 의도하지 않고, 부당하며, 차별적으로 해로운 사용자 결과를 피하기 위해 AI 시스템의 개발 프레임워크를 제공하여 이러한 문제를 해결하는 것을 목표로 합니다. 이 그룹은 알고리즘 편향 인증을 위한 CertifAIEd 기준과 협력하여 AI 시스템이 공정성과 윤리를 염두에 두고 개발되도록 보장합니다.
편견은 종종 해로운 것으로 간주되지만, 의도적인 편견이 허용되고 필수적인 시나리오도 존재합니다. 예를 들어, 전립선 건강 관리를 돕기 위해 설계된 의료 앱은 의료적 맥락에 따라 남성 사용자에게 자연스럽게 편향되어야 합니다. 반면, 유방암 인식 캠페인을 위한 앱은 두 성별 모두에게 효과적으로 서비스를 제공하기 위해 편향되지 않아야 합니다.
편견 위험 평가 및 관리
AI 시스템의 편견에 대한 인식과 이해를 촉진하기 위해 IEEE P7003은 효율적인 AI 시스템 개발을 위한 권장 사항을 제시합니다.
편견 프로필 사용: 시스템 내 편견의 영향과 위험을 평가하고 이해하기 위해偏见 프로필을 활용합니다.
의도와 맥락 고려: 시스템의 의도를 명확히 정의하고 작동 맥락을 이해하여 이해관계자의 요구와 일치하도록 합니다.
작업 정의: 시스템의 작업을 명확히 정의하고 결과가 이러한 작업과 일치하도록 보장합니다.
이해관계자 인식: 시스템과 상호작용하거나 영향을 받는 사용자와 이해관계자를 이해합니다.
정기적 평가: 사용자와 이해관계자가 진화함에 따라 시스템의 전 생애주기 동안 편견에 대해 주기적으로 재평가합니다.
맥락적 적응: 시스템이 새로운 맥락에서 배포될 경우, 행동이 어떻게 적응해야 하는지 고려하여偏见 프로필을 재검토합니다.
다양한 개발 팀: 다양한 관점을 제공하고 편견을 줄이기 위해 다양한 개발자 및 평가자 팀을 장려합니다.
윤리적 AI 개발을 향해
IEEE P7003은 개인과 조직에게 책임감과 명확성을 강조하는 방법론을 제공하여 알고리즘 설계, 테스트 및 평가에 적용할 수 있도록 합니다. 이러한 방법론은 사용자에게 부당한 차별적 영향을 피하는 데 도움이 됩니다. 이를 통해 알고리즘 제작자는 규제 당국과 사용자에게 AI 개발에서 윤리적 고려사항을 최우선으로 하는 최신 모범 사례가 사용되고 있음을 전달할 수 있습니다.
이 이니셔티브는 최근 발표된 IEEE 출판물 'Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems'에서 볼 수 있듯이, 윤리적 AI에 대한 더 넓은 운동과 일치합니다. 이 문서는 기술자들이 자율적이고 지능적인 기술을 생성할 때 윤리적 고려사항을 우선시하도록 장려하며, 윤리적 AI 개발의 중요성을 더욱 강조합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
