유네스코 보고서: AI, 성별 편견을 계속 증폭

최근 유네스코 보고서는 현대 인공지능 (AI) 모델이 고착화한 성별 편견을 부각시켰습니다. 편향을 완화하기 위한 지속적인 노력이 이어지고 있음에도 불구하고, 이 연구는 대규모 언어 모델 (LLM) 을 포함한 AI 시스템이 사회적 편향을 증폭시키는 경향이 있으며, 특히 성별과 관련된 부분에서 두드러진다고 밝혔습니다.

AI 모델의 성별 편견

보고서는 인기 있는 LLM들이 종종 성차별적이고 여성혐오적인 콘텐츠를 생성하며, 이는 사회적 편견을 반영한다고 밝혔습니다. 예를 들어, 성별과 성정체성을 언급하는 문장으로 프롬프트를 입력했을 때, 메타(Meta)의 오픈소스 Llama 2 모델은 20%의 경우에서 성차별적이거나 여성혐오적인 언어를 포함한 출력을 생성했습니다. ChatGPT와 같은 일부 AI 모델은 더 나은 행보를 보였으나, 파인튜닝 후에도 편견은 여전히 존재했습니다.

유네스코는 방치할 경우 알고리즘 편견이 의료 및 금융과 같은 핵심 부문에 더 깊게 뿌리내릴 수 있다고 경고했습니다. 편향된 AI 알고리즘은 이러한 분야에서 기존 성별 격차를 악화시켜 성평등 달성 노력을 저해할 수 있습니다.

보고서가 강조한 주요 우려 사항 중 하나는 편향된 의료 데이터가 AI 기반 의료 시스템에 미치는 영향입니다. 데이터 수집 관행은 역사적으로 남성 피험자를 선호해 왔으며, 이로 인해 AI 학습 데이터에 성별 격차가 발생했습니다. 이러한 편견은 구체적인 결과를 낳습니다. 예를 들어, 간 질환 선별에 사용되는 AI 도구를 분석한 한 연구에서는 남성 중심의 편향된 학습 데이터로 인해 여성의 경우 44%의 사례를 놓쳤습니다.

불균형 해소

언스톱어블 도메인(Unstoppable Domains)의 COO인 샌디 카터(Sandy Carter)는 AI 학습 데이터의 성별 격차를 해결하는 중요성을 강조했습니다. 그녀는 성별 편향을 부각하기 위해 데이터 투명성을 높일 것과, 성별 불일치를 완화하기 위해 여성의 건강 데이터를 크라우드소싱하거나 합성 데이터를 생성하는 것과 같은 새로운 접근 방식을 제안했습니다.

카터는 공평한 AI 시스템을 개발하기 위해 학습 데이터에 공정한 대표성이 필수적임을 강조했습니다. 다양한 데이터 소스를 통합하고 데이터 수집 관행의 투명성을 수용함으로써 개발자들은 AI 모델의 편견을 최소화하기 위해 노력할 수 있습니다.

유네스코 보고서는 AI에서의 성별 편견이 여전히 심각한 과제임을 stark하게 일깨워줍니다. 모든 사용자에게 공평하게 서비스를 제공하는 AI 시스템을 구축하려면, 데이터 수집부터 모델 배포에 이르기까지 개발의 모든 단계에서 편견을 해결하기 위한 concerted한 노력이 필요합니다.

이러한 문제에 대한 인식을 높이고 포용적 관행을 옹호함으로써 이해관계자들은 AI가 의료 및 기타 분야에서 성평등을 증진할 잠재력을 실현하기 위해 노력할 수 있습니다. 오직 협력적 행동과 공정성에 대한 헌신을 통해서만 모든 개인, 성별에 관계없이 AI 기술의 약속이 완전히 실현될 수 있습니다.