AI 연구, 언어 모델에 지속적인 인종 편견 존재 밝혀내

앨런 인공지능 연구소, 스탠퍼드 대학교, 시카고 대학교 연구진이 수행한 연구에서 오픈AI의 GPT-4와 GPT-3.5를 포함한 인기 있는 대규모 언어 모델(LLM)에 인종적 편견이 내재되어 있다는 사실이 밝혀졌습니다.

arXiv 사전 공개 서버에 게재된 이 연구는 언어 학습 모델(LLM)이 다양한 방언과 문화적 표현, 특히 아프리카계 미국 영어(AAE)와 표준 미국 영어(SAE)에 어떻게 반응하는지 조사하는 데 중점을 두었습니다. 연구진은 일련의 실험을 통해 AAE와 SAE로 작성된 텍스트 문서를 AI 챗봇에 입력하고, 챗봇이 저자를 추론하고 의견을 제시하도록 했습니다.

그 결과는 충격적이었는데, AI 모델의 반응에서 일관된 편향이 드러났기 때문입니다. 아프리카계 미국인 영어(AAE) 텍스트는 일관되게 부정적인 고정관념을 불러일으켰고, 저자를 공격적이고 무례하며 무지하고 의심스러운 사람으로 묘사했습니다. 반대로 표준 미국인 영어(SAE) 텍스트는 더 긍정적인 반응을 이끌어냈습니다. 이러한 편향은 성격적 특성뿐 아니라 전문적인 능력과 법적 지위에 대한 인식에도 영향을 미쳤습니다.

다양한 직업 및 법률 분야에 미치는 영향

잠재적인 직업에 대해 질문했을 때, 챗봇은 아프리카계 미국인 영어(AAE) 텍스트를 저임금 직종이나 스포츠 또는 엔터테인먼트와 같이 아프리카계 미국인과 전형적으로 연관된 분야와 연관시켰습니다. 또한, AAE 텍스트를 작성한 사람들은 사형과 같은 더 가혹한 형벌을 포함한 법적 처벌을 받을 가능성이 더 높다고 제시하는 경우가 많았습니다.

흥미롭게도, 아프리카계 미국인을 일반적으로 묘사해 달라는 질문에는 "지적인", "뛰어난", "열정적인"과 같은 긍정적인 형용사를 사용한 답변이 많았습니다. 이러한 차이는 편견의 미묘한 특성을 보여주는데, 특히 개인의 언어 사용을 바탕으로 그들의 행동이나 특성에 대해 갖는 가정과 관련하여 맥락에 따라 선택적으로 나타나는 편견을 드러냅니다.

이 연구는 또한 언어 모델의 규모가 클수록 아프리카계 미국인 영어를 사용하는 저자에 대한 부정적인 편향이 더욱 두드러진다는 사실을 밝혀냈습니다. 이러한 관찰 결과는 AI 시스템의 편향이 확장될 수 있다는, 근본적인 원인을 해결하지 않고 단순히 언어 모델의 크기만 늘리는 것은 문제를 악화시킬 수 있음을 시사합니다.

윤리적인 AI 개발의 과제

이러한 연구 결과는 윤리적이고 편견 없는 AI 시스템 개발에 있어 중대한 과제가 있음을 강조합니다. 기술 발전과 편견 완화를 위한 노력에도 불구하고, 뿌리 깊은 편견은 여전히 ​​이러한 모델에 스며들어 사회적 고정관념을 반영하고 잠재적으로 강화할 수 있습니다.

이 연구는 모든 인류에게 공정하게 봉사하는 인공지능을 만들기 위해 지속적인 경계, 다양한 데이터 세트, 그리고 포괄적인 훈련 방법론의 중요성을 강조합니다. 또한 모든 개인에게 공평한 결과를 보장하기 위해 인공지능 개발 과정에서 편견 문제를 종합적으로 해결해야 할 필요성을 극명하게 일깨워줍니다.

이 연구는 인공지능 개발의 중요한 측면을 조명하며, 이해관계자들이 보다 공정하고 평등한 기술 환경을 구축하기 위해 편견에 맞서 해결해야 함을 촉구합니다.