무의식적 인종 편견: AI가 유색인종 얼굴을 제대로 인식하지 못하는 이유는 무엇일까?

인공지능 기술은 서서히 '극사실주의'의 경지에 도달하고 있습니다. 최근 연구 결과에 따르면 인공지능은 실제 인물의 사진보다 더 현실적으로 보이는 이미지를 생성할 수 있는 것으로 나타났습니다.

AI가 백인들의 더 나은 얼굴을 생성하다

이 연구에서 참가자들(모두 백인)은 실제 얼굴과 AI가 생성한 얼굴 이미지 100장을 구별하도록 요청받았습니다. 일부 참가자는 AI 이미지가 실제 얼굴보다 더 "실제" 같다고 인식했습니다.

"일부 AI 얼굴이 매우 사실적으로 인식된다는 사실에 매우 놀랐고, 다음 단계로 나이팅게일과 파리드의 데이터를 새로운 참가자 표본을 대상으로 재분석하여 그 결과를 재현해 보려고 했습니다."라고 이번 연구를 이끈 호주 국립대학교의 임상 심리학자이자 강사인 에이미 다웰은 말했다.

이 연구는 인공지능의 극사실주의가 지닌 몇 가지 우려스러운 측면, 즉 인종 편견을 드러냈습니다. 

인공지능은 무의식적으로 인종차별적 편견을 갖고 있는가?

AI는 유색인종보다 백인의 얼굴을 더 사실적으로 생성하는 데 성공했는데, 다웰에 따르면 이는 다양하지 않은 훈련 데이터와 알고리즘 때문이라고 합니다. 즉, 알고리즘이 백인의 얼굴 데이터로만 과도하게 훈련되어 무의식적으로 백인의 특징에 편향되었다는 것입니다.

다웰은 이것이 사회 문제를 더욱 악화시킬 수 있다고 우려합니다. 인공지능이 유색인종을 일관되게 불쾌한 골짜기 현상에 빠뜨리는 것으로 묘사한다면, 부정적인 고정관념을 영속화하고 그들의 외모와 진정성에 대한 기존의 편견을 강화할 수 있다는 것입니다.

이 연구에서 제기된 또 다른 시급한 우려는 딥페이크의 증가 가능성입니다. 많은 사람들이 AI 이미지를 "진짜"로 확신dent선택하는 것을 고려할 때, 다웰은 이러한 가짜 이미지가 악용될 경우 많은 사람들이 속을 수 있다고 우려합니다. 

다웰은 "하지만 새로운 AI의 상당 부분은 이처럼 투명하지 않으며, AI 산업에 대한 투자는 막대한 반면 이를 감시하기 위한 과학적 자금은 극히 적고 확보하기도 어렵고 진행 속도도 느리다"고 말했다.