Pregúntele a un asistente general de IA sobre la política de reembolso de su empresa y solo podrá adivinar. Nunca ha visto sus documentos. RAG, abreviatura de generación aumentada de recuperación, resuelve este problema buscando la información correcta y entregándola al modelo junto con la pregunta.

Esta guía explica cada etapa en un lenguaje sencillo y luego crea una versión pequeña utilizando únicamente la biblioteca estándar de Python. Ejecutamos ese código en Python 3.13 y las puntuaciones mostradas provienen de esa ejecución. No utiliza ningún modelo de lenguaje, por lo que demuestra recuperación y construcción rápida, y no probamos el paso de respuesta final.

¿Qué es RAG?

La generación de recuperación aumentada es una técnica que combina un paso de búsqueda con un modelo de lenguaje. Cuando llega una pregunta, el sistema busca una fuente de conocimiento, agrega los mejores resultados a la pregunta y le pide al modelo que responda basándose en ese material.

Piense en un examen a libro abierto. Un estudiante con el libro cerrado confía en la memoria y puede recordar mal con seguridad. Un estudiante con libro abierto puede buscar primero la página correcta. RAG le da al modelo ese libro y también le permite señalar qué página utilizó.

El problema que RAG resuelve

Un modelo de lenguaje por sí solo tiene tres límites para su uso empresarial:

• No conoce tus datos privados. Tus pólizas, tickets y contratos no formaron parte de su formación.
• Su conocimiento tiene un límite. No puede saber acerca de un precio que usted cambió esta mañana.
• Puede inventar respuestas. Cuando no está seguro, puede producir algo plausible pero falso.

RAG aborda los tres y no es necesario volver a capacitar nada. Actualice un documento, vuelva a indexarlo y la siguiente respuesta podrá utilizarlo.

Cómo funciona RAG, paso a paso

Un sistema RAG tiene dos tuberías. Uno prepara sus datos con anticipación y el otro los ejecuta para cada pregunta.

Indexación: preparar sus datos

1. Cargar: recopila contenido de archivos PDF, wikis, bases de datos o tickets.
2. Limpiar y fragmentar: elimine la basura y luego divida los documentos en pequeños pasajes.
3. Incrustar: convierte cada pasaje en una lista de números, llamada incrustación, que captura su significado.
4. Almacenar: guarda las incrustaciones en un índice con capacidad de búsqueda, a menudo una base de datos vectorial.

Consultar: responder una pregunta.

1. Recuperar: incrustar la pregunta y encontrar los pasajes más cercanos en significado.
2. Aumento: inserte esos pasajes en el mensaje.
3. Generar: el modelo escribe una respuesta usando ese contexto.

La recuperación no tiene por qué utilizar vectores. Puede ser una búsqueda de palabras clave o incluso una consulta SQL, lo que encuentre la información adecuada para sus datos.

Un pequeño ejemplo práctico

Para ver claramente las partes móviles, aquí hay un pequeño recuperador sin bibliotecas. Representa el texto como recuento de palabras, un sustituto mucho más simple de las incrustaciones reales, y puntúa la similitud utilizando la medida del coseno.

import math, re
from collections import Counter

DOCS = {
    "refunds": "Refunds are paid within 7 days to the original payment method.",
    "shipping": "Standard shipping takes 3 to 5 working days across India.",
    "warranty": "All keyboards include a 2 year warranty against defects.",
}

def vectorize(text):
    return Counter(re.findall(r"[a-z0-9]+", text.lower()))

def similarity(a, b):
    dot = sum(a[word] * b[word] for word in a)
    size = math.sqrt(sum(v * v for v in a.values()))
    size *= math.sqrt(sum(v * v for v in b.values()))
    return dot / size if size else 0

def retrieve(question, k=1):
    q = vectorize(question)
    scored = [(similarity(q, vectorize(t)), name) for name, t in DOCS.items()]
    return sorted(scored, reverse=True)[:k]

def build_prompt(question):
    (score, name), = retrieve(question)
    return (
        "Answer using only the context. If it is not there, say you do not know.\n"
        f"Context: {DOCS[name]}\n"
        f"Question: {question}"
    )

Preguntar sobre reembolsos encuentra el pasaje correcto y genera este mensaje:

print(retrieve("How many days until refunds are paid?"))
# [(0.4558..., 'refunds')]

print(build_prompt("How many days until refunds are paid?"))
# Answer using only the context. If it is not there, say you do not know.
# Context: Refunds are paid within 7 days to the original payment method.
# Question: How many days until refunds are paid?

En un sistema completo, ahora enviaría ese mensaje a un modelo de lenguaje. El detalle importante es la instrucción para admitir cuando falta la respuesta, sobre la cual puede obtener más información en nuestra guía para ingeniería rápida.

Lo que nuestro ejemplo pierde

Ahora intente con una pregunta que signifique lo mismo pero use palabras diferentes:

print(retrieve("When can I get my money back?", k=3))
# [(0.0, 'warranty'), (0.0, 'shipping'), (0.0, 'refunds')]

Cada puntuación es cero, porque la pregunta no comparte palabras con ningún documento. “Devolución de dinero” significa reembolso a un ser humano, pero el recuento de palabras no lo dice. Este resultado único explica por qué los sistemas reales utilizan incrustaciones, que están diseñadas para que el texto con significado similar termine con números similares, incluso sin palabras en común.

Pero no asuma que las incrustaciones lo resuelven todo. Pueden tener dificultades con términos exactos, como códigos de producto y números de error, que la búsqueda de palabras clave maneja muy bien. Es por eso que muchos sistemas de producción utilizan la búsqueda híbrida, combinando los dos enfoques.

Chunking: el paso que la gente subestima

Los documentos se dividen en fragmentos porque los archivos completos son demasiado largos e imprecisos para recuperarlos. El tamaño que elija implica una verdadera compensación:

Unos cientos de palabras con cierta superposición entre fragmentos es un punto de partida común, pero trátelo como una primera suposición para probar. Divida según límites naturales, como títulos, cuando pueda. Y adjunte metadatos, como el título del documento, la fecha y el departamento, para poder filtrar los resultados y citar fuentes.

Mejorando la recuperación

Cuando las respuestas son deficientes, estas son las actualizaciones que más vale la pena probar, aproximadamente en este orden:

• Limpiar los datos. Primero elimine los documentos obsoletos y duplicados. Ningún algoritmo soluciona fuentes contradictorias.
• Utilice búsqueda híbrida. Combine resultados basados ​​en significado y palabras clave.
• Agregue un nuevo clasificador. Busque más candidatos y luego use un modelo especializado para reordenarlos por relevancia.
• Filtrar por metadatos. Restringir los resultados por producto, región o fecha antes de realizar la búsqueda.
• Vuelva a escribir la consulta. Haga un seguimiento vago como “¿qué pasa con la segunda?” en una pregunta completa.

RAG vs ajuste fino

No son mutuamente excluyentes. Nuestra comparación de RAG vs ajuste fino vs ingeniería rápida cubre cómo elegir con más profundidad.

Cómo probar un sistema RAG

RAG es software y necesita pruebas como cualquier otro software. Cree un conjunto de preguntas reales junto con los pasajes y las respuestas que espera, luego mida las dos etapas por separado:

Incluya también casos incómodos: preguntas sin respuesta en sus datos, preguntas que utilicen redacción diferente y preguntas con fuentes contradictorias. Vuelva a ejecutar este conjunto cada vez que cambie la fragmentación, los modelos o las indicaciones, como un conjunto de regresión. Nuestro tutorial de pytest muestra cómo ejecutar muchas entradas a través de una sola prueba.

Por qué fallan los sistemas RAG

• La respuesta no está en los datos. El modelo aún puede intentar uno, así que indíquele cómo rechazarlo.
• No se recuperó el fragmento correcto. Esto suele ser un problema de fragmentación o de búsqueda.
• Demasiado contexto. Los pasajes irrelevantes pueden distraer el modelo y aumentar los costos.
• Documentos obsoletos. Una política antigua se puede recuperar con tanta confianza como la actual.
• Tablas y archivos PDF mal analizados. Si la extracción codifica el texto, la recuperación nunca se recupera.
• Pruebas solo con preguntas de demostración. Los usuarios reales expresan las cosas de manera muy diferente.

Seguridad y permisos

RAG conlleva dos riesgos que son fáciles de pasar por alto. Primero, control de acceso: si el índice contiene archivos de recursos humanos, la pregunta de un empleado junior no debe recuperarlos. Aplique los permisos de cada usuario durante la recuperación, porque ordenar al modelo que guarde secretos no es una protección confiable.

En segundo lugar, inyección inmediata. Una página web o un documento recuperado podría contener texto como “ignore sus instrucciones”. Trate el contenido recuperado como datos que no son de confianza, limite las acciones que puede realizar el modelo y requiera que un humano apruebe las sensibles.

Conclusión

RAG es una idea simple con muchos detalles prácticos: encuentre la información correcta y luego pídale al modelo que la use. Comience con un conjunto pequeño y limpio de documentos y unas veinte preguntas reales. Haga que la recuperación funcione bien antes de agregar complejidad, porque una canalización modesta con buenos datos generalmente supera a una sofisticada con datos incorrectos.

Preguntas frecuentes

sigue aprendiendo