- AI 는 성별에서 인종에 이르기까지 편향을 반영하고 재생산하여 생성된 텍스트와 이미지에 영향을 미칩니다.
- AI 편향은 인간이 제공한 데이터에서 비롯되므로 엄격한 검증을 필요로 합니다.
- AI 편향을 해결하려면 데이터 및 알고리즘 조정을 강조하는 포괄적인 접근이 필요합니다.
인공지능(AI)의 발전은 수많은 혜택을 가져왔지만, 동시에 편향이라는 지속적인 문제를 드러냈습니다. 연구와 조사에 따르면 ChatGPT와 같은 인기 있는 AI 시스템을 포함한 AI 시스템은 언어 생성에서의 성별 편향부터 이미지 생성에서의 인종 및 성별 고정관념에 이르기까지 사회적 편견을 반영하는 편향을 보여줍니다.
팔레스타인-이스라엘 딜레마: AI 편향의 사례
최근 OpenAI의 ChatGPT를 사용한 경험에서 팔레스타인 학자 나디 아부사다는 “이스라엘인과 팔레스타인인은 자유를 누릴 권리가 있는가?”라는 간단한 질문에 대해 서로 다른 답변을 받아 충격을 받았습니다. OpenAI는 이스라엘에 대한 자유를 기본적 인권으로 단호하게 선언한 반면, 팔레스타인의 정의 문제는 “복잡하고 논쟁이 많은” 것으로 묘사했습니다. 이러한 뚜렷한 대비는 AI 시스템에 존재하는 편향을 반영합니다.
아부사다의 반응은 서방 담론과 주류 미디어에서 팔레스타인인들이 직면해 온 오랜 문제인 허위 정보와 편향을 강조합니다. 이는 고립된 사건이 아니라 AI의 중립성에 관한 더 넓은 도전의 증상입니다.
AI 생성 텍스트의 성별 편향: 우려스러운 패턴
ChatGPT와 Alpaca라는 AI 챗봇을 비교한 연구는 생성된 텍스트에서 성별 편향이 존재함을 드러냈습니다. 가상의 직원에 대한 추천서를 작성해 달라는 요청에 두 AI 시스템 모두 명확한 성별 편향을 보였습니다. ChatGPT는 남성에게는 '전문가'와 '정직함'이라는 용어를 사용한 반면, 여성에게는 '아름다움'이나 '기쁨'이라는 표현을 사용했습니다. Alpaca도 유사한 문제를 보였는데, 남성을 '청취자'와 '사유가'로 연결하는 반면 여성에게는 '우아함'과 '아름다움'이라는 용어를 사용했습니다.
이러한 발견은 AI 내부에 뿌리 깊은 성별 편향이 존재하며, 이는 사회적 고정관념을 반영하고 재생산함을 강조합니다. 이는 AI가 유해한 성별 규범을 강화하는 데 어떤 역할을 하는지에 대한 의문을 제기합니다.
AI 생성 이미지: 인종 및 성별 고정관념의 재생산
Bloomberg Graphics는 오픈 소스 AI 플랫폼인 Stable Diffusion을 사용하여 텍스트-이미지 변환으로 AI 편향을 조사했습니다. 결과는 경악할 만한 것이었으며, AI 시스템은 성별과 인종 고정관념을 악화시켜 현실 세계에서 발견되는 것보다 더 심화되었습니다. 'CEO'나 '수감자'와 같은 용어로 프롬프트를 입력했을 때 생성된 이미지는 일관되게 편향을 보였습니다.
조사 결과, 고임금 직무 관련 이미지에서는 여성과 피부색이 어두운 개인들의 표현이 부족했으며, 저임금 직무 관련 이미지에서는 과잉 표현되었습니다. 범죄 관련 검색에서 AI는 현실에서 더 다양한 인종 구성을 가진 교도소 인구에도 불구하고 피부색이 어두운 개인들의 이미지를 불균형하게 생성했습니다.
이러한 발견은 AI 알고리즘이 편향된 학습 데이터와 인간이 프로그래밍한 경향성에 의해 구동되어 편견을 완화하는 대신 사회적 편견을 강화함을 보여줍니다.
AI 편향의 근원 규명
AI 시스템의 편향은 예시와 데이터 입력에 의존하는 학습 과정으로 거슬러 올라갈 수 있습니다. 인간은 편향되거나 고정관념적인 데이터를 제공함으로써 의도적이든 무의식적이든 AI의 행동 형성에 핵심적인 역할을 합니다. AI는 이러한 편향을 학습하고 결과에 반영합니다.
디지털 윤리 전문가인 Reid Blackman은 Amazon의 AI 이력서 읽기 소프트웨어가 의도치 않게 여성 이력서를 모두 거부하도록 학습한 사례를 인용했습니다. 이 예시는 AI가 편향된 예시를 학습할 경우 차별을 우연히 재생산할 수 있음을 보여줍니다.
AI 편향을 해결하려면 AI 시스템의 데이터, 머신러닝 알고리즘 및 기타 구성 요소를 포괄적으로 검토해야 합니다. 중요한 단계 중 하나는 훈련 데이터의 편향을 평가하여 과소 또는 과대 표현된 집단을 적절히 고려하는 것입니다.
AI 편향에 대한 대응 조치
IBM의 보고서는 특히 특정 집단을 과대 표현하면 오류로 이어질 수 있는 얼굴 인식 알고리즘 등에서 데이터셋의 편향을 면밀히 검토할 필요성을 강조합니다. 이러한 편향을 식별하고 시정하는 것은 AI 시스템의 공정성과 정확성을 보장하는 데 필수적입니다.
문제는 AI 생성 텍스트에 국한되지 않고 알고리즘 기반 개인화 시스템으로 확장됩니다. Google의 광고 플랫폼에서 볼 수 있듯이 이러한 시스템은 사용자의 행동을 학습함으로써 성별 편향을 재생산할 수 있습니다. 사용자가 사회적 편향을 반영하는 방식으로 클릭하거나 검색하면 알고리즘은 이러한 편향을 강화하는 결과와 광고를 생성하도록 학습합니다.
AI는 다양한 분야에서 상당한 진전을 이루었지만, 편향은 여전히 formidable한 과제입니다. AI 시스템은 언어 생성에서의 성별 편향부터 이미지 생성에서의 인종 및 성별 고정관념에 이르기까지 사회적 편견을 반영하고 재생산합니다. AI 편향을 해결하려면 신중한 데이터 검토와 알고리즘 조정을 포함한 다각적인 접근이 필요합니다. 이러한 노력을 통해서만 AI는 진정으로 중립적이고 편향 없는 도구로서 모두의 이익을 위해 봉사할 수 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항: 제공된 정보는 거래 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 바탕으로 이루어진 어떠한 투자에 대해서도 책임을 지지 않습니다. 어떠한 투자 결정을 내리기 전에 반드시 독자적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
글로리 카부루
글로리는 AI 도구와 연구에 능통한 매우 유능한 저널리스트입니다. 그녀는 AI 에 열정을 가지고 있으며 이 주제에 관한 여러 편의 기사를 집필했습니다. 그녀는 인공지능, 머신러닝, 딥러닝 분야의 최신 동향을 항상 파악하고 정기적으로 글을 씁니다.
