AI 연구, 언어 모델의 지속적인 인종 편향 드러내

Allen Institute for AI, 스탠퍼드 대학교, 시카고 대학교의 연구원들이 수행한 연구에서 OpenAI의 GPT-4 및 GPT-3.5를 포함한 인기 있는 대규모 언어 모델(LLM)에 내재된 인종 편향에 대한 사실이 드러났습니다.

arXiv 사전 출판 서버에 게재된 논문에 상세히 기술된 이 연구는 이러한 대규모 언어 모델(LLM) 다양한 방언과 문화적 표현, 특히 아프리카계 미국인 영어(AAE)와 표준 미국 영어(SAE)에 어떻게 반응하는지 조사하는 데 중점을 두었습니다. 일련의 실험을 통해 연구자들은 AAE와 SAE로 된 텍스트 문서를 AI 챗봇에 입력하여 작성자를 추론하고 평가하도록 요청했습니다.

결과는 경각심을 불러일으켰으며, AI 모델의 응답에서 일관된 편향이 드러났습니다. AAE로 된 텍스트는 작성자를 공격적, 무례, 무지, 의심스러운 인물로 묘사하는 부정적 고정관념과 항상 마주쳤습니다. 반면, SAE로 된 텍스트는 더 긍정적인 반응을 이끌어냈습니다. 이러한 편향은 성격 특성을 넘어 전문적 능력과 법적 지위에 대한 인식에도 영향을 미쳤습니다.

직업 및 법적 영역 전반에 미치는 영향

잠재적 직업에 대해 질문했을 때, 챗봇들은 AAE 텍스트를 저임금 직종이나 스포츠나 엔터테인먼트 등 아프리카계 미국인과 고정관념적으로 연결된 분야와 연관시켰습니다. 또한, AAE 텍스트의 작성자들은 종종 더 가혹한 형벌인 사형과 같은 법적 제재를 더 많이 받을 가능성이 있다고 제안되었습니다.

흥미롭게도, 아프리카계 미국인을 일반적인 용어로 묘사해 달라는 요청에 대한 응답은 긍정적이었으며, “지적이다”, “뛰어나다”, “열정적이다”와 같은 형용사가 사용되었습니다. 이러한 차이는 편견이 맥락, 특히 언어 사용에 기반한 개인의 행동이나 특성에 대한 가정과 관련하여 선택적으로 나타난다는 편견의 미묘한 성격을 강조합니다.

또한 이 연구는 언어 모델이 클수록 아프리카계 미국인 영어로 된 텍스트 작성자에 대한 부정적 편향이 더 뚜렷해진다는 사실을 밝혔습니다. 이 관찰 결과는 AI 시스템 내 편향의 확장성에 대한 우려를 제기하며, 근본 원인을 해결하지 않고 단순히 언어 모델의 크기만 증가시키는 것이 문제를 악화시킬 수 있음을 시사합니다.

윤리적 AI 개발의 과제

이러한 발견은 윤리적이고 편견 없는 AI 시스템 개발이 직면한 중대한 도전을 강조합니다. 기술적 진보와 편견 완화를 위한 노력에도 불구하고, 뿌리 깊은 편견은 이러한 모델에 계속 스며들어 사회적 고정관념을 반영하고 잠재적으로 강화하고 있습니다.

이 연구는 모든 인류에게 공정하게 봉사하는 AI를 만들기 위해 지속적인 경계, 다양한 데이터셋, 포용적인 훈련 방법론의 중요성을 강조합니다. 이는 모든 개인에게 공정한 결과를 보장하기 위해 AI 개발에서 편견을 포괄적으로 해결해야 할 긴급한 필요성에 대한 명확한 경고 역할을 합니다.

이 연구는 AI 개발의 중요한 측면을 조명하며, 이해관계자들이 편견에 직면하고 해결하여 더 정의롭고 공정한 기술적 환경을 구축하도록 촉구합니다.