생성형 AI 모델이 편향을 내포하고 부실한 정보를 생성한다는 연구 결과 발표

최근 몇 달 동안 ChatGPT, Google의 Bard, Midjourney와 같은 생성형 AI 모델은 개인 및 전문적인 목적으로 개인들 사이에서 점점 더 인기를 얻고 있습니다. 그러나 연구는 우려스러운 경향을 드러내고 있습니다: 이러한 모델은 사용자에게 편견과 부정적인 고정관념을 내재화하는 동시에 nonsensical하지만 seemingly 정확한 정보를 생성하고 확산시키고 있습니다. 

이 현상의 결과는 특히 소외된 집단에 대해 심각하며, 이들은 조작된 정보의 확산으로 불균형적인 부담을 지고 있습니다. 이러한 모델이 월드 와이드 웹에서 더 흔해짐에 따라, 그들이 인간의 신념에 영향을 미칠 수 있다는 우려가 커지고 있습니다. 저널 사이언스에 게재된 새로운 관점 기사는 심리학자와 머신러닝 전문가 간의 협력을 통해 이 문제의 규모를 평가하고 해결책을 개발할 긴급한 필요성을 강조합니다.

트리니티 컴퓨터 과학 및 통계학과 겸임 조교수이자 모질라 재단의 신뢰할 수 있는 AI 수석 연구원인 아베바 비하네은 생성형 모델이 불확실성을 전달하는 능력을 결여하고 있어, 적절한 한정사나 의문의 표현 없이도 확신에 찬 유창한 응답을 생성한다고 설명합니다. 결과적으로 개인들은 이러한 답변을 사실적으로 정확하다고 받아들여 신념의 왜곡을 초래할 수 있습니다. 또한, 금융 및 책임 이해관계는 기업들로 하여금 생성형 모델을 지능적이거나 공감적이거나 심지어 아동적인 존재처럼 인간화하도록 인센티브를 제공하여 문제를 악화시킵니다.

소외된 집단에 대한 불균형적인 영향

편견과 조작된 정보의 여파는 특히 소외된 인구 집단 사이에서 두드러집니다. 이 연구는 생성형 모델이 인간의 신념과 편견에 미치는 영향을 측정하기 위한 상세한 분석의 중요성을 강조합니다. 모델 출력에서 조작과 부정적인 고정관념에 가장 크게 영향을 받는 소외된 커뮤니티에 초점을 맞춤으로써, 향후 연구와 개입은 이러한 문제를 효과적으로 해결할 수 있습니다.

관점 기사에서 논의된 구체적인 예는 법률 시스템에서 생성형 AI 모델의 사용과 관련이 있습니다. 이러한 모델 내의 통계적 규칙성은 흑인 피고인에게 더 높은 위험 점수를 할당하는 결과를 낳았습니다. 결과적으로, 이러한 패턴을 내면화한 법원 판사들은 알고리즘의 예측과 일치하도록 형량 관행을 변경할 수 있습니다. 그러한 시스템의 사용을 제한하기 위한 규제가 시행되더라도, 이러한 통계적 학습 메커니즘은 흑인 개인이 재범할 가능성이 더 높다는 신념을 영속화할 수 있습니다.

편견과 조작을 극복하는 어려움

한 번 개인들이 편견과 조작된 정보를 받아들이면, 이를 제거하기 어려워집니다. 어린이들은 기술을 인간화할 가능성이 더 크고 쉽게 영향을 받기 때문에 특히 취약합니다. 이를 인식하여, 생성형 AI 모델의 작동 방식에 대해 대중, 정책 입안자, 학제간 과학자들을 교육하고, 기존 오정보를 해소하며, 이러한 기술에 대한 과장된 주장을 반박하기 위한 노력이 이루어져야 합니다.

관점 기사는 생성형 모델이 인간의 신념과 편견에 미치는 영향을 평가하기 위한 신속하고 포괄적인 분석의 중요성을 강조합니다. 또한 소외된 인구에 대한 영향을 완화하기 위한 표적 개입과 자원 마련을 촉구합니다. furthermore, 이러한 AI 모델이 어떻게 작동하는지에 대한 현실적인 통찰력을 제공하고 그들의 능력에 대한 오해와 과장을 시정하기 위해 교육 및 인식 캠페인이 수행되어야 합니다.

생성형 AI 모델이 널리 채택됨에 따라, 편견의 인코딩과 nonsensical 정보의 조작은 중대한 우려를 제기합니다. 소외된 커뮤니티는 불균형적으로 영향을 받아 기존 불평등을 악화시킵니다. 심리학자와 머신러닝 전문가 간의 협력은 이 문제의 규모를 평가하고 효과적인 해결책을 마련하는 데 필수적입니다. 생성형 모델이 인간의 신념과 편견에 미치는 영향을 이해함으로써, 이러한 AI 시스템에 내재된 편견과 조작을 해결하고 시정하는 것이 가능해집니다.