Was ist Retrieval-Augmented Generation (RAG)?

Die Genauigkeit und Zuverlässigkeit von generativen KI-Modellen kann durch Fakten verbessert werden, die aus externen Quellen stammen, und die zur Beschaffung dieser Fakten verwendete Technik wird als Retrieval-Augmented Generation (RAG) bezeichnet.

Um es einfach zu verstehen: Nehmen wir an, ein gutes Large Language Model (LLM) kann eine breite Palette menschlicher Anfragen beantworten. Für glaubwürdige Antworten müssen jedoch Quellen zitiert werden, und dazu muss das Modell recherchieren, sodass es einen Assistenten benötigt. Dieser unterstützende Prozess wird zur Vereinfachung als Retrieval-Augmented Generation, oder RAG, bezeichnet.

Verständnis von Retrieval-Augmented Generation (RAG)

Um RAG weiter zu verstehen: Es schließt die Lücken, die bereits in der Arbeit von LLMs vorhanden sind. Die Qualität oder Leistungsfähigkeit eines LLM wird an der Anzahl seiner Parameter gemessen. Parameter sind im Grunde die allgemeinen Muster, wie wir Menschen Wörter verwenden, um Sätze zu bilden. LLMs können bei den von ihnen bereitgestellten Antworten inkonsistent sein. 

Manchmal geben sie genau die Informationen, die der Benutzer benötigt, und manchmal spucken sie einfach zufällige Fakten und Zahlen aus den Datensätzen aus, die in ihr Training einbezogen wurden. Wenn LLMs manchmal vage Antworten geben, als wüssten sie nicht, was sie sagen, liegt das daran, dass sie wirklich keine Ahnung haben, was sie sagen. Wie wir vorhin bei den Parametern erwähnt haben, können LLMs Wörter statistisch in Beziehung setzen, aber sie kennen ihre Bedeutungen nicht.

Die Integration von RAG in LLM-basierte Chat-Systeme hat zwei Hauptvorteile: Sie stellt sicher, dass das Modell auf aktuelle und zuverlässige Fakten zugreifen kann, und sie gewährleistet auch, dass die Benutzer überprüfen können, ob die Behauptungen des Modells vertrauenswürdig sind, da sie Zugang zu den Quellen des Modells haben.

Luis Lastras, Direktor für Sprachtechnologien bei IBM Research, sagte:

„Sie möchten die Antworten eines Modells mit dem Originalinhalt abgleichen, um zu sehen, worauf es seine Antwort stützt.“

Quelle: IBM.

Es gibt auch andere Vorteile, da es die Chancen auf Halluzinationen und Datenlecks reduziert, da es die Möglichkeit hat, sein Wissen auf externen Quellen zu basieren, sodass es nicht ausschließlich auf den Daten, auf denen es trainiert wurde, beruhen muss. RAG senkt auch die finanziellen und rechnerischen Kosten für den Betrieb von Chatbots, da es weniger Bedarf hat, auf neuen Daten trainiert zu werden.

Vorteile von RAG

Traditionell nutzten digitale Gesprächsmodelle einen manuellen Dialogansatz. Sie stellten ihr Verständnis der Absicht eines Benutzers her, riefen dann die Informationen auf dieser Grundlage ab und gaben Antworten in einem allgemeinen, bereits von Programmierern definierten Skript. Dieses System war in der Lage, einfache, direkte Fragen zu beantworten. Das System hatte jedoch Einschränkungen.

Die Beantwortung jeder Frage, die ein Kunde möglicherweise stellen könnte, war zeitaufwändig. Wenn der Benutzer einen Schritt übersprungen hat, fehlte dem Chatbot die Fähigkeit, mit der Situation umzugehen und zu improvisieren. Heute hat die Technologie es jedoch ermöglicht, dass Chatbots personalisierte Antworten an Benutzer bereitstellen, ohne dass neue Skripte von Menschen geschrieben werden müssen, und RAG geht einen Schritt weiter, indem es das Modell auf frische Inhalte stützt und den Schulungsbedarf reduziert. Wie Lastras sagte:

„Stellen Sie sich das Modell als einen überenthusiastischen Junior-Mitarbeiter vor, der eine Antwort ausplaudert, bevor er die Fakten überprüft. Die Erfahrung lehrt uns, innezuhalten und zu sagen, wenn wir etwas nicht wissen. Aber LLMs müssen explizit trainiert werden, um Fragen zu erkennen, die sie nicht beantworten können.“

Quelle: IBM.

Wie wir wissen, sind die Fragen der Nutzer nicht immer einfach; sie können komplex, vage und umständlich sein oder Informationen erfordern, die dem Modell fehlen oder das es nicht leicht zerlegen kann. Unter solchen Bedingungen können LLMs halluzinieren. Feinabstimmung kann diese Vorfälle verhindern, und LLMs können so trainiert werden, dass sie aufhören, wenn sie auf eine solche Situation stoßen. Dies erfordert jedoch, dass ihnen Tausende von Beispielen solcher Fragen vorgelegt werden, um sie zu erkennen.

RAG ist das derzeit beste Modell, um LLMs auf die neuesten und am besten bestätigbaren Daten zu stützen und auch das Training zu reduzieren. RAG entwickelt sich mit der Zeit weiter und benötigt noch mehr Forschung, um Unvollkommenheiten auszuräumen.