최상위 AI 모델은 투명성이 부족합니다. 새로운 지수가 보여줍니다

스탠퍼드 대학교의 재단 모델 연구 센터(CRFM)의 연구원들은 최근 가장 큰 AI 재단 모델들이 투명성이 부족하다는 것을 발견했으며, 이는 기술이 전 세계로 빠르게 확산되고 있는 점을 고려하면 우려할 사항이 될 수 있습니다. 

최상위 AI 모델은 투명성이 부족합니다

최상위 10개 재단 모델의 투명성을 평가하기 위해 연구원들은 MIT와 프린스턴의 다른 전문가들과 협력하여 ‘재단 모델 투명성 지수’를 개발했습니다. 이 지수는 회사가 재단 모델을 구축하는 방식, 작동 방식, 그리고 다운스트림에서 사용되는 방식을 기반으로 투명성의 100가지 다른 측면을 평가합니다.

지수는 Meta의 Llama 2를 54%로 랭킹했으며, 그 다음으로 BigScience의 BLOOMZ(53%)와 OpenAI GPT-4(48%)가 뒤를 이었습니다. Google의 PaLM 2는 40%의 투명성 등급을 받았으며, 가장 투명성이 낮은 모델은 Amazon의 Titan Text로 12%였습니다. 

“이것은 이러한 회사들이 경쟁사와 어떻게 비교되는지를 매우 명확하게 나타내며, 우리가 투명성을 개선하도록 동기를 부여하기를 바랍니다.”라고 CRFM의 소셜 리드인 Rishi Bommasani는 말했습니다. 

왜 중요한가?

AI 모델의 투명성은 소비자 보호에 대한 특정 위협을 방지하고 이러한 도구가 안전하게 사용될 수 있음을 보장하는 데 필수적입니다. 

투명성이 부족하면 기업들이 상업용 재단 모델을 사용하여 애플리케이션을 안전하게 구축할 수 있는지 알기 어렵고, 학자들이 연구를 위해 모델에 의존하기 어려워집니다. 

규제 측면에서 투명성은 주요 우선순위입니다. 편견, 사생활 침해 등을 근절하고 전 세계 정책 입안자들이 AI 모델을 규제하기 위한 규칙을 효과적으로 수립하는 데 도움이 되기 때문입니다. 

“투명성이 없으면 규제 기관은 올바른 질문을 제기할 수도 없고, 이러한 영역에서 조치를 취하는 것은 더욱 어렵습니다.”라고 Bommasani는 말했습니다. 

호주 등 일부 국가는 이미 AI 모델의 투명성과 무결성을 보장하기 위한 조치를 시행하기 시작했습니다. 9월, Cryptopolitan은 호주 정부가 시민들이 자동화된 결정이 어떻게 이루어지는지에 대한 의미 있는 정보를 요청할 권리를 부여했다고 보도했습니다.

정부는 AI 회사들이 이러한 정보를 명확하고 이해하기 쉬운 방식으로 제공하도록 요구하여, 시민들이 AI가 자신의 삶에 어떻게 영향을 미치는지 이해할 수 있도록 보장합니다.