AI 모델은 여성처럼 행동하라고 지시받으면 위험 회피적이 된다는 연구 결과

새로운 연구에 따르면 AI 모델은 여성처럼 행동하라고 요청받을 때 위험 회피적이 된다고 합니다. 이란 테헤란의 Allameh Tabataba’i University의 논문에 따르면, AI 모델은 여성으로서 결정을 내리라고 요청받을 때 위험을 취하는 것에 대해 신중해집니다.

연구 논문에 따르면, 동일한 AI 모델이 남성처럼 생각하라고 요청받으면 더 큰 위험을 감수하는 결정을 내리는 경향이 있습니다.

연구자들은 대규모 언어 모델이 가정하라고 요청받는 성별 정체성에 따라 금융 위험 행동에 대한 근본적인 접근 방식을 체계적으로 변경한다는 것을 밝혔습니다. 이 연구는 OpenAI, Google, DeepSeek, Meta와 같은 회사의 AI 시스템을 테스트했습니다.

연구에 따르면 AI 모델은 성별 정체성에 따라 위험 회피적이 된다

연구에 따르면 AI 모델은 여러 시나리오에서 테스트되었으며, 다른 성별 정체성을 프롬프트로 받았을 때 위험 허용도가 극적으로 변화했습니다. DeepSeek Reasoner와 Google의 Gemini 2.0 Flash-Lite는 가장 뚜렷한 효과를 보였으며, 여성으로 응답하라고 요청받을 때 더 위험 회피적이 되어, 여성이 통계적으로 금융 결정 시 더 큰 신중함을 보이는 실제 생활 패턴과 상관관계를 보였습니다.

연구자는 Holt-Laury 작업이라고 불리는 표준 경제학 테스트를 사용했다고 주장했습니다. 작업 동안, 참가자에게 안전한 로또 옵션과 더 위험한 로또 옵션 사이에서 10가지 결정을 제시합니다. 선택이 진행됨에 따라 위험한 옵션의 당첨 확률이 증가합니다.

참가자가 안전한 베팅에서 위험한 선택으로 전환하는 시점은 그들의 위험 감수 성향을 보여줍니다. 즉, 참가자가 일찍 전환하면 위험을 감수하는 경향이 있고, 늦게 전환하면 위험을 회피하는 성향이 있습니다.

DeepSeek Reasoner의 경우, 여성으로 행동하라는 지시를 받았을 때 남성으로 행동하라는 지시를 받았을 때보다 일관되게 안전한 옵션을 선택했습니다. 이 차이는 명확했으며, 모델은 각 성별 프롬프트에 대해 35번의 실험 동안 일관성을 보였습니다.

Gemini도 유사한 패턴을 보였지만, 효과의 강도는 다양했습니다. 반면, OpenAI의 GPT 모델은 성별 프롬프트에 흔들리지 않고, 가정하라고 요청받는 성별과 관계없이 위험 중립적인 접근을 유지했습니다.

연구진에 따르면 사용자는 이러한 변화를 눈치채지 못합니다.

연구진에 따르면 OpenAI는 모델의 균형을 맞추는 작업을 진행해 왔습니다. 2023년의 이전 연구는 OpenAI의 모델이 명확한 정치적 편향을 보였다고 보여주었으며, OpenAI는 현재 이를 해결한 것으로 보입니다.

새로운 연구에서 모델은 편향된 응답을 30% 감소시켰습니다. Ali Mazyaki가 이끄는 연구팀은 이것이 기본적으로 인간의 고정관념을 반영한 것이라고 언급했습니다.

“관찰된 편차는 성별이 위험 감수 행동에 영향을 미친다는 인간 의사결정의 확립된 패턴과 일치합니다. 여성은 일반적으로 남성보다 더 큰 위험 회피 성향을 보이는 것으로 나타났습니다,”라고 연구는 말합니다.

이 연구는 또한 AI 모델이 성별을 넘어 다른 역할을 설득력 있게 수행할 수 있는지 조사했습니다. 권력자나 재난 상황의 인물로 자신을 상상하라는 요청을 받자 모델들은 조정을 보였습니다. 일부는 상황에 따라 위험 프로필을 조정했지만, 다른 일부는 고집스럽게 일관성을 유지했습니다.

연구진에 따르면 이러한 행동 패턴의 많은 부분이 사용자에게 즉시 눈에 띄지 않습니다. 대화의 성별 단서에 따라 추천을 미묘하게 변경하는 AI 모델은 아무도 일어나고 있다는 것을 깨닫지 못한 채 사회적 편향을 강화할 수 있습니다.

예를 들어, 여성에게 대출 승인 시스템이 더 보수적으로 변하거나, 고객이 여성이기 때문에 안전한 포트폴리오를 제안하는 투자 자문가는 알고리즘적 객관성이라는 위장 아래 불평등을 고착시킬 수 있습니다.