MIT 연구원, AI 보조원과 협력할 때 사용자를 교육하는 자동 시스템 개발

MIT 연구원들은 MIT-IBM 왓슨 AI 연구소와 협력하여 인간-AI 협력의 중요한 질문에 답하는 혁신적인 자동 시스템을 개발했다: 사용자는 AI 보조의 조언을 언제 신뢰해야 하는가? 이 시스템은 사용자가 AI 권장 사항을 언제 신뢰해야 하고 언제 주의를 기울여야 하는지 결정하는 데 도움이 되는 맞춤형 온보딩 프로세스를 제공한다.

맞춤형 온보딩 프로세스가 인간-AI 협력을 향상시킴

연구팀의 시스템은 의료 전문가나 AI 모델과 작업하는 모든 사람과 같은 사용자가 AI 보조와 효과적으로 협력할 때를 학습하도록 설계되었다. 그것은 특정 상황에서 AI 조언의 신뢰성을 이해하는 데 사용자를 안내하는 맞춤형 온보딩 프로세스를 통해 이를 달성한다.

시스템은 AI의 예측이 잘못되었음에도 불구하고 사용자가 AI의 권장 사항을 잘못 신뢰하는 사례를 식별한다. 그런 다음 자동으로 협력 규칙을 학습하고 온보딩 프로세스 동안 이러한 규칙을 자연어로 전달한다. 이를 통해 사용자는 이러한 규칙에 기반한 훈련 연습을 통해 AI와 협력하는 연습을 수행하고 성과 및 AI 성과에 대한 피드백을 받는다.

결과: 인간-AI 협력의 정확도 향상

연구자들은 온보딩 프로세스의 효과를 평가하기 위해 테스트를 수행했다. 결과에 따르면 훈련의 혜택을 받지 않고 단순히 AI를 신뢰할 때만 알려준 시나리오에 비해 이미지 예측 작업에서 인간과 AI가 협력할 때 정확도가 5% 크게 향상된 것으로 나타났다.

완전 자동화된 학습 시스템

이 시스템의 주요 강점 중 하나는 완전 자동화입니다. 이 시스템은 특정 작업에서 인간과 AI 간의 상호작용에서 생성된 데이터를 기반으로 맞춤형 온보딩 프로세스를 생성하는 방법을 학습합니다. 또한 다양한 작업에 적응할 수 있어 소셜 미디어 콘텐츠 검열, 글쓰기, 프로그래밍 및 중요한 의료 분야를 포함하여 인간과 AI 모델이 협력하는 다양한 도메인에서 다재다능한 도구가 됩니다.

AI 교육의 격차 해소

연구 논문의 주요 저자이자 MIT 대학원생인 후세인 모자나르는 적절한 교육 없이 AI 도구를 사용자에게 제공하는 것이 중요한 문제라고 강조했습니다. 그는 거의 모든 다른 도구가 어떤 형태의 튜토리얼을 제공하지만 AI 도구는 종종 이러한 필수적인 교육이 부족하다고 강조했습니다. 연구진은 인간-AI 협력에서 사용자를 교육하기 위한 방법론적 및 행동적 접근 방식을 제공하여 이러한 격차를 해소하고자 합니다.

의료 전문가에 대한 함의

연구진은 온보딩 프로세스를 점점 더 중요한 결정을 내리기 위해 AI 도구에 의존하게 될 의료 전문가의 교육에서 중요한 구성 요소로 예상합니다. 이 접근 방식은 지속 의학 교육이 제공되는 방식을 재편하고 임상 시험의 설계에 영향을 미칠 수 있습니다.

자동 온보딩: 작동 원리

인간 전문가가 특정 사용 사례를 위해 생산한 교육 자료에 의존하는 기존 온보딩 방법과 달리, 연구진의 시스템은 데이터에서 자동으로 학습합니다. 맞춤형 온보딩 프로세스를 생성하기 위해 일련의 단계를 따릅니다.

1. 데이터 수집: 시스템은 이미지에서 객체 감지처럼 특정 작업을 수행하는 동안 인간과 AI 모두에 대한 데이터를 수집한다.

2. 잠재 공간 표현: 수집된 데이터는 유사한 데이터 포인트를 함께 그룹화하는 잠재 공간에 임베딩된다.

3. 협력 오류 식별: 알고리즘은 인간이 AI와 잘못 협력하는 잠재 공간의 영역을 식별한다. 이러한 영역은 인간이 AI의 예측을 신뢰했지만 예측이 잘못되었거나 그 반대의 경우를 나타내는 상황을 나타낸다.

4. 규칙 생성: 두 번째 알고리즘은 자연어 규칙으로 각 영역을 설명하기 위해 대규모 언어 모델을 사용하며, 대조적인 예제를 찾아 반복적으로 미세 조정한다. 이러한 규칙은 훈련 연습의 기초를 형성한다.

5. 훈련 연습: 온보딩 시스템은 이미지 및 AI 예측과 같은 예제를 사용자에게 제시하고 사용자에게 예측을 요청한다. 사용자의 예측이 잘못된 경우 올바른 답변과 성과 통계를 받는다.

6. 미래 협력을 위한 학습: 이 과정을 통해 사용자는 AI의 권장 사항을 신뢰할 때의 규칙을 이해함으로써 AI와 효과적으로 협력하는 방법을 학습한다.

온보딩 프로세스의 효과

연구진은 흐릿한 이미지에서 신호등을 감지하고 다양한 도메인에서 객관식 질문에 답하는 것과 같은 작업을 포함하여 테스트를 수행했습니다. 그 결과, 권장 사항 없이 온보딩 프로세스가 신호등 예측 작업에서 사용자의 정확도를 약 5% 향상시켰지만 속도를 늦추지는 않았습니다. 그러나 온보딩은 각 답변에 대한 AI 모델의 설명으로 인해 질문 답변 작업에서는 덜 효과적이었습니다.

반면, 온보딩 없이 권장 사항만 제공하면 사용자의 성과와 의사 결정 속도에 부정적인 영향을 미쳤습니다. 사용자는 권장 사항만 제공되었을 때 혼란을 겪은 것으로 보이며, 이는 그들의 사고 과정을 방해했습니다.

미래 연구 및 확장

연구팀은 온보딩 프로세스의 단기 및 장기 효과를 평가하기 위해 더 큰 연구를 수행할 계획입니다. 또한 레이블이 지정되지 않은 데이터를 활용하여 온보딩 프로세스를 개선하고 중요한 예외를 제외하지 않으면서 영역의 수를 줄이는 방법을 모색하고자 합니다.

워싱턴 대학교 명예 교수인 댄 웰드는 AI 개발자가 사용자가 AI 제안에 의존하는 것이 안전한지 식별하는 데 도움이 되는 방법을 만드는 것이 중요하다고 강조했습니다. MIT 연구진이 개발한 자동 온보딩 시스템은 이 목표를 달성하기 위한 중요한 단계입니다.

MIT 연구진과 MIT-IBM 왓슨 AI 랩이 개발한 자동 온보딩 시스템은 사용자가 언제 AI 권장 사항을 신뢰해야 하는지 결정하는 과제에 대한 유망한 해결책을 제공합니다. 완전히 자동화되고 데이터 기반이며 적응 가능한 온보딩 프로세스를 제공함으로써 이 시스템은 의료, 소셜 미디어, 글쓰기 및 프로그래밍을 포함한 다양한 분야에서 인간-AI 협력을 향상시킬 잠재력을 가지고 있습니다. AI가 의사 결정 과정에서 점점 더 중요한 역할을 계속함에 따라 이러한 교육 방법의 중요성은 과소평가될 수 없습니다.