- La generación aumentada con recuperación es un proceso de obtención de hechos desde fuentes externas.
- Se utiliza para basar los modelos de lenguaje grandes (LLM) en bases de conocimiento actuales y auténticas, y proporciona a los usuarios acceso para la verificación cruzada.
- RAG resulta útil para reducir los costos de entrenamiento de los modelos de IA, ya que disminuye la necesidad de un entrenamiento continuo.
La precisión y confiabilidad de los modelos de IA generativa pueden mejorarse con los hechos obtenidos de fuentes externas, y la técnica utilizada para obtenerlos se denomina generación aumentada por recuperación (RAG).
Para una comprensión simple, digamos que un buen modelo de lenguaje grande (LLM) puede responder a una amplia gama de consultas humanas. Pero para respuestas creíbles, debe haber algunas fuentes citadas en ellas, y para este propósito, tiene que hacer alguna investigación, por lo que el modelo necesitará un asistente. Este proceso de asistencia se denomina generación aumentada por recuperación, o RAG, para mayor facilidad.
Comprendiendo la generación aumentada por recuperación, o RAG
Para comprender mejor el RAG, este llena los vacíos que ya existen en el trabajo de los LLM. La calidad o potencia de un LLM se mide por el número de parámetros que tiene. Los parámetros son básicamente los patrones generales de cómo los humanos usamos las palabras para formar oraciones. Los LLM pueden ser inconsistentes con las respuestas que proporcionan.
A veces dan la información exacta que el usuario necesita, y a veces simplemente generan hechos y cifras aleatorias de los conjuntos de datos incluidos en su entrenamiento. Si en ocasiones los LLM dan respuestas vagas, como si no supieran lo que están diciendo, es porque realmente no tienen idea de lo que están diciendo. Como hablamos de parámetros en la línea anterior, los LLM pueden relacionar palabras estadísticamente, pero no conocen sus significados.
Integrar RAG en sistemas de chat basados en LLM tiene dos beneficios principales: asegura que el modelo pueda acceder a hechos actuales y confiables, y también garantiza que los usuarios puedan verificar que sus afirmaciones son confiables, ya que tienen acceso a las fuentes del modelo.
Luis Lastras, Director de Tecnologías de Lenguaje en IBM Research, dijo:
«Quieres cotejar las respuestas de un modelo con el contenido original para ver en qué se basa su respuesta».
Fuente: IBM.
Hay otros beneficios también, ya que reduce las posibilidades de alucinaciones y filtración de datos, ya que tiene la oportunidad de basar su conocimiento en fuentes externas, por lo que no tiene que depender únicamente de los datos en los que fue entrenado. El RAG también reduce los costos financieros y computacionales de ejecutar chatbots, ya que tiene menos necesidad de ser entrenado con nuevos datos.
Beneficios del RAG
Tradicionalmente, los modelos de conversación digital utilizaban un enfoque de diálogo manual. Establecían su comprensión de la intención del usuario, luego obtenían la información en base a eso y proporcionaban respuestas en un guion general ya definido por los programadores. Este sistema era capaz de responder preguntas simples y directas. Sin embargo, el sistema tenía limitaciones.
Entregar respuestas a cada consulta que un cliente pueda hacer potencialmente consumía tiempo; si el usuario omitía un paso, el chatbot carecía de la capacidad de manejar la situación e improvisar. Sin embargo, la tecnología actual ha hecho posible que los chatbots proporcionen respuestas personalizadas a los usuarios sin la necesidad de escribir nuevos guiones por humanos, y el RAG lo lleva un paso más allá al mantener el modelo con contenido fresco y reducir la necesidad de entrenamiento. Como dijo Lastras:
«Piensa en el modelo como un empleado junior demasiado entusiasta que suelta una respuesta antes de verificar los hechos; la experiencia nos enseña a detenernos y decir cuando no sabemos algo. Pero los LLM necesitan ser entrenados explícitamente para reconocer preguntas que no pueden responder».
Fuente: IBM.
Como sabemos, las preguntas de los usuarios no siempre son directas; pueden ser complejas, vagas y prolijas, o requieren información que el modelo carece o no puede dissectar fácilmente. En tales condiciones, los LLM pueden alucinar. El ajuste fino puede prevenir estos casos, y los LLM pueden entrenarse para detenerse cuando se enfrentan a una situación así. Pero necesitará ser alimentado con miles de ejemplos de este tipo de preguntas para reconocerlos.
El RAG es el mejor modelo actualmente disponible para basar los LLM en los datos más recientes y confirmables, y también para reducir el entrenamiento. El RAG también está desarrollándose con el tiempo y aún necesita más investigación para pulir las imperfecciones.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad (Disclaimer): La información proporcionada no constituye asesoramiento de inversión. Cryptopolitan.com no asume responsabilidad alguna por las inversiones realizadas basándose en la información contenida en esta página. Recomendamos encarecidamente realizar investigaciones independientes o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
