향상된 AI 신뢰성을 위한 인간 불확실성 주입 연구

빠르게 발전하는 인공지능(AI) 분야에서 케임브리지 대학교 연구진은 근본적인 문제인 AI 시스템에서 인간 불확실성의 부재를 해결하기 위한 파격적인 접근법을 선도하고 있습니다. AI는 종종 정밀도와 정확성에서 뛰어나지만, 의심과 오류와 같은 인간 특성을 이해하고 통합하는 데에는 미흡합니다. 이러한 격차를 해소하기 위해 과학자들은 특히 의료 진단과 같은 고위험 도메인에서 AI 프로그램에 인간 불확실성을 내재화하는 방법을 모색하고 있습니다.

인간 불확실성 내재화

많은 AI 시스템, 특히 인간의 피드백에 의존하는 시스템은 인간이 항상 의사 결정에서 정확하고 확신한다고 가정합니다. 그러나 실제 삶의 결정은 본질적으로 불완전함, 실수, 그리고 의심으로 특징지어집니다. 케임브리지 대학교 연구팀은 인간의 이러한 행동을 머신러닝과 조화시켜 AI-인간 인터페이스의 신뢰성을 높이고 위험을 줄이는 것을 목표로 했습니다.

인간 불확실성 처리의 과제

AI 시스템에 인간 불확실성을 통합하는 함의를 더 잘 이해하기 위해 연구자들은 확립된 이미지 분류 데이터셋을 수정했습니다. 그들은 이미지 레이블링 과정에서 인간 참가자가 자신의 불확실성 수준을 지정할 수 있도록 했습니다. findings는 흥미로웠습니다. 불확실한 레이블로 훈련된 AI 시스템은 의심스러운 피드백 처리 능력이 향상되었지만, 인간 불확실성의 포함은 때때로 AI-인간 시스템의 성능 저하를 초래했습니다.

AI 분야에서 ‘인간-in-the-loop(인간 참여)’ 접근법은 자동화 시스템만으로는 부족할 수 있는 영역에서 위험을 완화하는 수단으로 간주됩니다. 그러나 이는 인간 협력자가 의심을 표현할 때 이러한 시스템이 어떻게 반응하는지에 대한 질문을 제기합니다. 이 연구의 제1저자 캐서린 콜린스(Katherine Collins)는 불확실성을 개인의 관점에서 다루는 것의 중요성을 강조하며 다음과 같이 말합니다.

“불확실성은 인간이 세상을 추론하는 방식의 핵심이지만, 많은 AI 모델은 이를 고려하지 못합니다.”

연구는 오류의 결과가 미미한 상황(예: 낯선 사람을 친구로 오인하는 경우)에서는 인간 불확실성이 중요하지 않을 수 있음을 강조합니다. 그러나 임상가가 의료 AI 시스템을 사용하는 것과 같은 안전 민감한 애플리케이션에서는 인간 불확실성이 위험할 수 있습니다. 연구의 공동 저자 매튜 바커(Matthew Barker)는 AI 모델을 재보정하기 위한 더 나은 도구의 필요성을 강조하며 개인이 불확실성을 표현할 수 있도록 권한을 부여해야 한다고 말합니다. 그는 다음과 같이 지적합니다.

“기계는 완전한 확신으로 훈련될 수 있지만, 인간은 종종 이를 제공할 수 없으며 머신러닝 모델은 그 불확실성에 어려움을 겪습니다.”

성능에 미치는 영향

연구팀은 새의 색상을 구별하는 인간 참가자가 포함된 데이터셋을 포함한 다양한 데이터셋을 사용하여 실험을 수행했습니다. 결과는 기계적 결정을 인간의 결정으로 대체하는 것이 종종 성능의 현저한 감소를 초래함을 보여주었습니다. 이는 인간을 머신러닝 시스템에 원활하게 통합하는 데 있어 도전을 보여줍니다.

AI와 인간 불확실성 간의 격차를 해소하려는 노력의 일환으로 연구자들은 해당 분야의 추가 탐색을 장려하기 위해 데이터셋을 공개하고 있습니다. 캐서린 콜린스는 투명성의 중요성을 강조하며 “불확실성은 투명성의 한 형태이며, 이는 매우 중요합니다.”라고 말합니다. 그녀는 특히 채팅봇과 같은 애플리케이션에서 자연스럽고 안전한 사용자 경험을 위해 가능성의 언어를 이해하는 것이 중요할 때 모델을 신뢰할지 인간을 신뢰할지 결정해야 할 필요성을 강조합니다.