Un chatbot de soporte le dice a un cliente que los reembolsos demoran 14 días. La verdadera política dice 7. La respuesta fue fluida, educada y equivocada. Esta es una alucinación de IA y es una de las principales razones por las que las funciones de IA necesitan un diseño y pruebas cuidadosas.

Esta guía explica las causas en términos sencillos y se centra en la prevención práctica. La verificación automatizada cerca del final es un pequeño script de Python que ejecutamos con respuestas de ejemplo que escribimos nosotros mismos. No se comparó con un modelo de IA en vivo.

¿Qué es una alucinación de IA?

Una alucinación ocurre cuando un sistema de inteligencia artificial generativo produce contenido que es objetivamente erróneo, inventado o no respaldado por la información que recibió, mientras lo presenta como verdadero. El término es una metáfora. La modelo no ve cosas. Se trata de generar un texto que se ajuste al patrón de una buena respuesta sin estar atado a hechos.

La parte peligrosa es la confianza. Una respuesta alucinada suele parecer exactamente igual a una correcta, con el mismo tono, estructura y detalle.

Por qué los modelos del lenguaje alucinan

Se entrena un modelo de lenguaje grande para predecir el siguiente fragmento de texto, un token, en función de patrones en una gran cantidad de datos de entrenamiento. De ello se desprenden varias cosas:

• Verosímil no es lo mismo que verdadero. El modelo aprende cómo tienden a ser las respuestas. Cuando faltan los hechos, todavía se puede inventar la continuación que parezca más probable.
• Brechas y límites. Los datos de capacitación tienen lagunas y finalizan en una fecha determinada. El modelo puede completar los datos faltantes en lugar de decir que no lo sabe.
• El entrenamiento recompensa las respuestas. Una investigación, incluido un artículo de OpenAI de 2025 sobre por qué los modelos alucinan, sostiene que los métodos comunes de entrenamiento y evaluación recompensan las conjeturas en lugar de admitir incertidumbre, muy parecido a una prueba de opción múltiple sin penalización por respuestas incorrectas.
• Indicaciones ambiguas. Las preguntas vagas invitan al modelo a asumir detalles.
• Contexto largo o desordenado. Los hechos importantes pueden pasarse por alto cuando se entierran en entradas largas.

Tipos comunes de alucinaciones

Los investigadores a menudo los dividen en errores de objetivo, que contradicen el mundo real, y errores de fidelidad, que contradicen el material fuente que se proporcionó al modelo. Para las aplicaciones empresariales creadas a partir de sus propios documentos, la fidelidad suele ser lo que puede probar más directamente.

El código inventado merece una advertencia especial. Si un asistente sugiere instalar un paquete que no existe, un atacante puede publicar un paquete malicioso con ese nombre. Verifique que cada dependencia sugerida sea real y confiable antes de instalarla.

Donde más importa

Un dato cinematográfico alucinado es inofensivo. Una dosis de droga alucinada, una citación legal, una política de reembolso o una cifra financiera no lo son. Ha habido casos bien informados de abogados que presentaron presentaciones judiciales con citaciones de casos inventadas por herramientas de inteligencia artificial. Clasifique sus casos de uso según el costo de una respuesta incorrecta y aplique los controles más estrictos cuando ese costo sea alto.

Cómo reducir las alucinaciones

1. Fundamente la respuesta en datos confiables. Proporcione al modelo los hechos relevantes en lugar de confiar en su memoria.
2. Permitir “No sé”. Dígale al modelo explícitamente que diga cuándo la información no está disponible y trátelo como un buen resultado.
3. Sea específico. Las preguntas claras y específicas dejan menos espacio para la invención. Nuestra guía de ingeniería rápida cubre esto en detalle.
4. Solicite citas o citas de las fuentes proporcionadas y luego verifíquelas automáticamente.
5. Utilice resultados estructurados, como JSON con campos fijos, para que las respuestas sean más fáciles de validar.
6. Utilice herramientas para aquellas cosas en las que los modelos son débiles, como cálculos, fechas y búsquedas de datos en vivo.
7. Mantenga a un humano informado para tomar decisiones de alto riesgo.

Conexión a tierra con tus propios datos

La generación de recuperación aumentada (RAG) es el patrón de conexión a tierra más común. El sistema busca en sus documentos pasajes relevantes para la pregunta y los incluye en el mensaje, con instrucciones para responder solo a partir de esos pasajes. Reduce drásticamente los hechos inventados, pero no es una cura. El modelo aún puede leer mal un pasaje, combinar pasajes incorrectamente o recurrir a su propio conocimiento, y el paso de búsqueda puede devolver documentos equivocados. Por tanto, los sistemas conectados a tierra todavía necesitan controles.

Un simple control automatizado

Aquí hay una guardia barata que creamos: marque cualquier número en una respuesta que no aparezca en el texto fuente. Es burdo, pero números como precios, días y límites son exactamente donde aparecen las costosas alucinaciones.

import re

SOURCE = """Refunds are paid within 7 days to the original payment method.
Orders over 1000 rupees ship free. Standard delivery takes 3 to 5 working days."""

def unsupported_numbers(answer, source):
    found = set(re.findall(r"\d+", answer))
    allowed = set(re.findall(r"\d+", source))
    return sorted(found - allowed, key=int)

Probamos tres respuestas escritas para imitar la salida típica del modelo:

grounded     -> no unsupported numbers
hallucinated -> ['14', '500']
partly       -> ['1']

La respuesta “alucinada” reclamaba reembolsos en 14 días y envío gratuito por más de 500 rupias, y ambas cifras fueron detectadas. La respuesta “en parte” tenía tiempos de entrega correctos pero agregó “o 1 día con expreso”, que la política nunca menciona, y eso también fue detectado. Una segunda verificación verifica que las frases citadas realmente aparezcan en la fuente:

{'paid within 7 days': True, 'no questions asked': False}

Estos controles tienen límites obvios. Omiten palabras equivocadas, unidades y afirmaciones sin fundamento y sin números, y señalarían erróneamente un cálculo correcto. Muchos equipos agregan un paso de “LLM como juez”, donde un segundo modelo compara cada reclamo con las fuentes. Eso atrapa más, pero también puede estar mal, así que mídelo.

Pruebas de alucinaciones

Trate la tasa de alucinaciones como una métrica de calidad que mide, no como un sentimiento. Un enfoque práctico:

• Cree un conjunto de prueba de preguntas reales con respuestas y fuentes correctas conocidas.
• Incluya preguntas que el sistema debería rechazar, porque la respuesta no está en los datos.
• Califique las respuestas por su exactitud, fidelidad a las fuentes y rechazos apropiados.
• Ejecute el conjunto en cada cambio en las indicaciones, modelos o configuraciones de recuperación.
• Ejemplos de conversaciones de producción para revisión humana.

La disciplina de las pruebas de regresión también se aplica aquí: un conjunto fijo de casos, que se ejecuta en cada cambio, con resultados comparados a lo largo del tiempo. Al elegir cómo conectar a tierra un sistema, nuestra comparación de RAG versus ajuste fino versus ingeniería rápida explica las ventajas y desventajas.

Consejos para usuarios cotidianos

• Verifique hechos, cifras, citas y citas de la fuente original.
• Tenga especial cuidado con la información médica, legal y financiera.
• Pegue el texto fuente y pídale al asistente que responda solo a partir de él.
• Pregunte “¿qué confianza tiene y en qué se basa?”, pero recuerde que la respuesta también puede ser incorrecta.

¿Se pueden eliminar las alucinaciones?

No con la tecnología actual. Los modelos más nuevos y un mejor entrenamiento han reducido las tasas de alucinaciones en muchos puntos de referencia, y la conexión a tierra ayuda mucho, pero todos los sistemas aún cometen errores. El objetivo realista es hacer que los errores sean poco frecuentes, fáciles de detectar y de bajo impacto mediante el diseño del sistema, pruebas y señales claras para los usuarios.

Alucinaciones en herramientas de codificación de IA

Los desarrolladores se encuentran diariamente con alucinaciones en los asistentes de codificación: un método que no existe en una clase, una opción de configuración desactualizada o una explicación segura de un error que en realidad es causado por otra cosa. Las defensas son las que ya usas para el código humano. Compile o escriba el resultado, ejecute las pruebas y lea la documentación oficial de cualquier API que no haya utilizado antes. Tenga especial cuidado con los códigos sensibles a la seguridad, como la autenticación, la criptografía y la validación de entradas, donde un código que parece plausible puede ser sutilmente inseguro. Trate las sugerencias de IA como un borrador de un colega rápido pero poco confiable: a menudo son útiles, pero nunca son automáticamente correctas.

Conclusión

Las alucinaciones surgen de cómo funcionan los modelos del lenguaje: generan texto probable, no hechos verificados. No puedes desactivarlos, pero puedes diseñar en torno a ellos. Fundamente las respuestas en datos confiables, deje que el modelo diga “No sé”, agregue verificaciones automáticas de los detalles importantes y mida los resultados continuamente.

Preguntas frecuentes

sigue aprendiendo