검색 증강 생성(RAG)이란 무엇인가?

생성형 AI 모델의 정확성과 신뢰성은 외부 소스에서 얻은 사실에 의해 향상될 수 있으며, 이를 가져오는 데 사용되는 기법은 검색 증강 생성(RAG)이라고 합니다.

간단한 이해를 위해, 좋은 대형 언어 모델(LLM)이 광범위한 인간의 질의에 답할 수 있다고 가정해 봅시다. 하지만 신뢰할 수 있는 답변을 위해서는 인용된 출처가 있어야 하며, 이를 위해 모델은 일부 조사를 수행해야 하므로 모델에게 어시스턴트가 필요합니다. 이 보조 과정은 편의상 검색 증강 생성, 즉 RAG라고 합니다.

검색 증강 생성(RAG) 이해하기

RAG를 더 잘 이해하기 위해, RAG는 이미 LLM 작업에 존재하는 격차를 메웁니다. LLM의 품질이나 성능은 그것이 가진 매개변수의 수로 측정됩니다. 매개변수는 기본적으로 우리가 인간이 문장을 만들기 위해 단어를 사용하는 일반적인 패턴입니다. LLM은 제공하는 답변에서 일관성이 없을 수 있습니다. 

때로는 사용자가 필요한 정확한 정보를 제공하지만, 때로는 훈련에 포함된 데이터셋에서 무작위 사실과 수치를 생성해 내기도 합니다. 만약 LLM이 모호한 답변을 줄 때가 있는데, 이는 그들이 실제로 자신이 말하는 바를 모를 때입니다. 위에서 매개변수에 대해 이야기했듯이, LLM은 단어를 통계적으로 연관시킬 수는 있지만 그 의미를 알지 못합니다.

LLM 기반 채팅 시스템에 RAG를 통합하면 두 가지 주요 이점이 있습니다. 첫째, 모델이 현재 신뢰할 수 있는 사실에 접근할 수 있도록 보장하며, 둘째, 사용자가 모델의 주장을 신뢰할 수 있는지 확인할 수 있도록 보장합니다. 이는 사용자가 모델의 출처에 접근할 수 있기 때문입니다.

IBM 리서치의 언어 기술 책임자 루이스 라스트라스는 다음과 같이 말했습니다.

“모델의 답변을 원본 콘텐츠와 교차 참조하여 답변의 근거를 확인할 수 있어야 합니다.”

출처: IBM.

또 다른 이점도 있습니다. 외부 소스에 기반하여 지식을 구축할 기회가 있으므로 훈련된 데이터에만 의존할 필요가 없어 환각과 데이터 유출의 가능성이 줄어듭니다. RAG는 새로운 데이터에 대한 훈련 필요성이 적어 채팅봇 실행의 금전적 및 계산적 비용도 낮춥니다.

RAG의 이점

전통적으로 디지털 대화 모델은 수동 대화 접근 방식을 사용했습니다. 그들은 사용자의 의도를 이해한 후 그 기반 정보를 가져와 프로그래머가 이미 정의한 일반 스크립트로 답변을 제공했습니다. 이 시스템은 간단하고 명확한 질문에 답할 수 있었습니다. 그러나 시스템에는 한계가 있었습니다.

고객이 잠재적으로 요청할 수 있는 모든 질의에 답변을 제공하는 것은 시간이 많이 소요되었으며, 사용자가 단계를 건너뛰면 채팅봇은 상황을 처리하고 즉흥적으로 대응하는 능력이 부족했습니다. 그러나 오늘날의 기술은 인간이 새로운 스크립트를 작성할 필요 없이 사용자에게 개인화된 답변을 제공할 수 있게 만들었으며, RAG는 모델을 최신 콘텐츠에 유지하고 훈련 필요성을 줄임으로써 한 단계 더 나아갑니다. 라스트라스가 말했듯이,

“모델을 사실을 확인하기 전에 답변을 뱉어내는 열성적인 주니어 직원이라고 생각하십시오. 경험은 우리가 모르는 것이 있을 때 멈추고 말하라는 것을 가르쳐 줍니다. 하지만 LLM은 답변할 수 없는 질문을 인식하도록 명시적으로 훈련되어야 합니다.”

출처: IBM.

우리가 알다시피, 사용자의 질문은 항상 명확하지 않으며 복잡하거나 모호하며 장황할 수 있거나, 모델이 결여했거나 쉽게 분해할 수 없는 정보가 필요할 수 있습니다. 이러한 조건에서 LLM은 환각 현상을 일으킬 수 있습니다. 파인 튜닝은 이러한 사례를 방지할 수 있으며, LLMs는 이러한 상황에 직면했을 때 중단하도록 훈련될 수 있습니다. 하지만 이를 인식하기 위해 수천 가지의 해당 질문 예시를 입력해야 합니다.

RAG는 LLM을 최신이고 가장 검증 가능한 데이터에 기반하게 하고 훈련을 줄일 수 있는 현재 이용 가능한 최고의 모델입니다. RAG는 시간이 지남에 따라 발전하고 있으며, 결함을 해결하기 위해 더 많은 연구가 필요합니다.