새로운 연구에 따르면 인공지능 모델은 여성처럼 행동하도록 요구받을 때 위험 회피적인 태도를 보이는 것으로 나타났습니다. 이란 테헤란의 알라메 타바타바이 대학교에서 발표된 논문에 따르면, 인공지능 모델은 여성의 입장에서 결정을 내리도록 요구받을 때 위험을 감수하는 데 신중해지는 경향이 있습니다.
연구 논문에 따르면, 동일한 AI 모델에게 인간처럼 생각하도록 요청하면 더 큰 위험을 감수하는 결정을 내리는 경향이 있다고 합니다.
연구진은 대규모 언어 모델이matic성별 정체성을dent하도록 요구받으면 OpenAI, Google, DeepSeek, Meta 등의 회사에서 개발한 AI 시스템을 대상으로 진행되었습니다.
연구 결과에 따르면 AI 모델은 성별dent에 따라 위험 회피 성향을 보이는 것으로 나타났습니다
연구에 따르면 AI 모델은 여러 시나리오에서 테스트되었으며, 서로matic입력받았을 때 위험 감수 성향이 극적으로 변화했습니다dent특히 DeepSeek Reasoner와 Google의 Gemini 2.0 Flash-Lite는 여성으로 응답하도록 요청받았을 때 가장 뚜렷한 효과를 보였는데, 이는 여성이 재정적 결정을 내릴 때 통계적으로 더 신중한 경향을 보이는 실제 패턴과 상관관계가 있음을 보여줍니다.
연구진은 홀트-로리 과제(Holt-Laury task)라는 표준 경제학 실험을 사용했다고 주장했습니다. 이 실험에서 참가자들은 안전한 복권 선택지와 위험한 복권 선택지 중에서 10가지 선택을 해야 합니다. 선택이 진행될수록 위험한 선택지의 당첨 확률이 높아집니다.
참가자가 안전한 선택에서 위험한 선택으로 전환하는 시점은 위험 감수 성향을 보여줍니다. 즉, 참가자가 일찍 전환할수록 위험을 감수하는 경향이 있고, 늦게 전환할수록 위험 회피적인 성향을 나타냅니다.
DeepSeek Reasoner의 경우, 여성으로 행동하라는 지시를 받았을 때와 남성으로 행동하라는 지시를 받았을 때 모두 일관되게 안전한 선택을 했습니다. 성별 지시에 따른 차이는 분명했으며, 모델은 각 성별에 대한 35번의 실험에서 일관된 결과를 보였습니다.
제미니(Gemini) 역시 비슷한 패턴을 보였지만, 그 효과의 강도는 다양했습니다. 반면, 오픈아이(OpenAI)의 GPT 모델은 성별 정보에 전혀 영향을 받지 않고, 어떤 성별을 가정해야 하든 위험 부담이 없는 접근 방식을 유지했습니다.
연구원들은 사용자들이 이러한 변화를 알아차리지 못한다고 말합니다
연구진에 따르면 OpenAI는 모델의 균형성을 높이기 위해 노력해 왔습니다. 2023년에 발표된 이전 연구에서는 OpenAI 모델이 명확한 정치적 편향성을 보였는데, OpenAI는 이제 이 문제를 해결한 것으로 보입니다.
새로운 연구에서 해당 모델들은 보였습니다 . 알리 마지야키가 이끄는 연구팀은 이것이 기본적으로 인간의 고정관념을 반영한 것이라고 언급했습니다.
"관찰된 이러한 편차는 인간의 의사 결정에서 나타나는 기존 패턴과 일치하며, 성별이 위험 감수 행동에 영향을 미치는 것으로 나타났고, 일반적으로 여성은 남성보다 위험 회피 성향이 더 큰 것으로 밝혀졌습니다."라고 연구는 밝히고 있다.
이 연구는 AI 모델이 성별 외에도 다른 역할을 설득력 있게 수행할 수 있는지 여부도 살펴보았습니다. 권력자나 재난 상황에 처한 사람을 상상해 보라는 요청을 받았을 때, 모델들은 상황에 맞춰 스스로를 조정했습니다. 일부 모델은 상황에 따라 위험 프로필을 조정했지만, 다른 모델들은 고집스럽게 일관성을 유지했습니다.
연구진은 이러한 행동 패턴 중 상당수가 사용자에게 즉시 드러나지 않는다고 주장합니다. 대화에서 성별 단서를 바탕으로 추천 내용을 미묘하게 바꾸는 AI 모델은 아무도 인지하지 못하는 사이에 사회적 편견을 강화할 수 있다는 것입니다.
예를 들어, 대출 승인 시스템이 여성에 대해 더 보수적으로 변하거나, 투자 자문가가 고객이 여성이라는 이유로 안전한 포트폴리오를 추천하는 경우, 이러한 차별은 알고리즘의 객관성이라는 미명하에 드러날 것입니다.
