Las herramientas que chatean, resumen y escriben código parecen casi mágicas, hasta que ves el mecanismo que hay debajo. Un modelo de lenguaje grande, o LLM, es en esencia un sistema muy sofisticado para predecir el siguiente fragmento de texto. Esa idea explica qué hacen bien estas herramientas y por qué fallan en la forma en que lo hacen.

Esta guía explica los conceptos principales sin ningún tipo de matemáticas y luego crea un pequeño predictor de la siguiente palabra para concretar la idea. Ejecutamos ese código en Python 3.13 y el resultado proviene de esa ejecución. Es un simple juguete para contar en lugar de una red neuronal, y los LLM reales son mucho más capaces. También evitamos citar cifras de modelos específicos, porque cambian rápidamente.

¿Qué es un modelo de lenguaje grande?

Un LLM es un tipo de inteligencia artificial entrenada para comprender y generar el lenguaje humano. Tomemos el nombre palabra por palabra:

• Grande: tiene una gran cantidad de valores internos ajustables, llamados parámetros, y aprende de una enorme cantidad de texto.
• Idioma: trabaja con texto, incluido lenguaje natural y código.
• Modelo: es un sistema matemático que captura patrones a partir de datos y los utiliza para hacer predicciones.

Los modelos son el motor y productos como los asistentes de chat son el automóvil construido a su alrededor. Un producto suele añadir una interfaz de usuario, sistemas de seguridad, búsqueda y otras herramientas.

La idea central: predecir lo que vendrá después

Hazlo tú mismo. Si lees “la capital de Francia es”, tu mente te dice “París” de inmediato. Un LLM hace algo comparable, pero a una escala mucho mayor. Dado un texto, calcula la probabilidad de cada posible siguiente token, elige uno, lo agrega al texto y lo repite.

No se está consultando ninguna base de datos de respuestas almacenadas. El modelo contiene patrones aprendidos durante el entrenamiento, en forma de números. Cuando esos patrones se alinean con la verdad, obtienes una respuesta correcta. Cuando no es así, aún puedes obtener una respuesta fluida, y esa es una diferencia importante con respecto a un motor de búsqueda.

Una pequeña demostración funcional

Para ver la predicción del siguiente token en su forma más simple, este script cuenta qué palabra sigue a cuál en un texto pequeño. Luego genera texto nuevo a partir de esos recuentos. Los estadísticos llaman a esto modelo de bigram.

import random
from collections import Counter, defaultdict

TEXT = """the cat sat on the mat . the dog sat on the rug .
the cat saw the dog . the dog saw the cat ."""

tokens = TEXT.split()

follows = defaultdict(Counter)
for current, following in zip(tokens, tokens[1:]):
    follows[current][following] += 1

def probabilities(word):
    counts = follows[word]
    total = sum(counts.values())
    return {w: round(n / total, 2) for w, n in counts.most_common()}

print(probabilities("the"))
print(probabilities("sat"))

# {'cat': 0.38, 'dog': 0.38, 'mat': 0.12, 'rug': 0.12}
# {'on': 1.0}

Ese resultado es una distribución de probabilidad. Después de “el”, el modelo considera que los más probables son “gato” y “perro”. Ahora generamos texto tomando muestras repetidas de esas probabilidades:

def generate(start, length, seed):
    rng = random.Random(seed)
    words = [start]
    for _ in range(length):
        counts = follows[words[-1]]
        words.append(rng.choices(list(counts), weights=counts.values())[0])
    return " ".join(words)

print(generate("the", 6, seed=1))
print(generate("the", 6, seed=2))
print(generate("the", 6, seed=3))

# the cat . the cat saw the
# the rug . the cat . the
# the cat saw the dog . the

Note tres cosas. El mismo inicio puede producir texto diferente, porque la elección es aleatoria. El resultado se parece a sus datos de entrenamiento, incluso para secuencias que nunca aparecieron en él. Y no comprende nada, por lo que “la alfombra… el gato” parece una tontería.

Pregúntale sobre una palabra que nunca ha visto y no tiene nada que ofrecer: follows["elephant"] está vacía. Nuestro juguete solo mira una palabra anterior. El enorme salto en los LLM reales proviene de considerar largos tramos de contexto y aprender de muchos más datos, utilizando una red neuronal en lugar de un simple recuento.

Tokens: cómo se lee un modelo

Los LLM no leen palabras completas como lo hacemos nosotros. Primero, el texto se divide en tokens, que pueden ser una palabra, parte de una palabra o puntuación. Cada token se asigna a un número y el modelo funciona completamente con números.

Los tokens importan en la práctica por dos razones. El precio del uso de modelos alojados suele ser por tokens, y cada modelo tiene un límite sobre la cantidad que puede manejar a la vez. La tokenización también explica algunos comportamientos extraños y famosos. Debido a que los modelos ven fragmentos en lugar de letras, tareas como contar las letras de una palabra tradicionalmente les han resultado sorprendentemente difíciles.

Incrustaciones: significado como números

Cada token se convierte en una incrustación, una larga lista de números que lo ubica en una especie de espacio de significado. Los conceptos relacionados terminan muy juntos, por lo que “gato” y “gatito” tienen posiciones cercanas, mientras que “gato” y “factura” no.

La misma idea impulsa la búsqueda semántica, en la que se encuentran documentos por su significado en lugar de por palabras exactas. Nuestra guía de bases de datos vectoriales cubre ese uso.

Atención y el transformador.

La mayoría de los LLM modernos se basan en la arquitectura transformer, presentada por investigadores de Google en el artículo de 2017 “Attention Is All You Need”. Su mecanismo clave es la autoatención.

Consideremos esta frase: “El trofeo no cabía en la maleta porque era demasiado grande”. ¿A qué se refiere “eso”? Sabes que significa el trofeo. La atención permite que un modelo sopese cada token anterior al procesar cada uno nuevo, de modo que pueda vincular “eso” a las palabras más relevantes, incluso cuando estén muy separadas.

Los enfoques anteriores procesaban el texto paso a paso y tendían a perder la pista de las palabras distantes. Los transformadores analizan el contexto juntos y pueden ejecutar gran parte de este trabajo en paralelo en hardware especializado, lo que hizo que la capacitación en cantidades tan grandes de texto fuera práctica.

Cómo se forma un LLM

La capacitación previa brinda al modelo una amplia capacidad lingüística, pero es posible que simplemente continúe el texto en lugar de responderlo. Las etapas posteriores lo convierten en un asistente útil. Entrenar modelos grandes requiere una potencia informática sustancial y es costoso. Usar un modelo terminado, conocido como inferencia, es mucho más económico por solicitud.

Cómo genera texto

1. Su mensaje se divide en tokens y se convierte en incrustaciones.
2. La red los procesa, utilizando la atención para relacionarlos entre sí.
3. Genera una probabilidad para cada posible siguiente token.
4. Se selecciona un token y se agrega al contexto.
5. Los pasos 2 a 4 se repiten hasta que llegue a una condición de parada.

Esta es la razón por la que las respuestas suelen aparecer palabra por palabra cuando se transmiten. El texto se produce literalmente en secuencia. La temperatura controla qué tan aventurero es el paso 4: los valores bajos favorecen las fichas más probables, mientras que los valores más altos permiten una mayor variedad.

Términos que cumplirás

Limitaciones que debes conocer

• Alucinaciones. Un modelo puede inventar hechos, citas o codificar funciones. Debido a que produce texto probable, las declaraciones falsas pueden parecer completamente plausibles.
• Límite de conocimiento. A menos que un producto lo conecte con una búsqueda u otras herramientas, es posible que no esté al tanto de eventos recientes.
• Contexto limitado. Si una conversación excede la ventana de contexto, los detalles anteriores pueden eliminarse o resumirse. Los modelos tampoco recuerdan automáticamente los chats pasados, a menos que un producto agregue esa característica.
• Sesgo. Los datos de capacitación reflejan sesgos humanos, y esos pueden aparecer en la salida.
• Inconsistencia. La misma pregunta puede producir diferentes respuestas, lo cual es importante cuando creas software sobre una.
• Riesgos de seguridad. Las instrucciones ocultas en el texto pueden manipular un modelo, un problema conocido como inyección rápida.

Usar bien los LLM

Trate a un LLM como un asistente rápido y capaz cuyo trabajo necesita revisión. Algunos hábitos marcan una gran diferencia:

• Sea específico. Las instrucciones claras, el contexto y los ejemplos dan mejores resultados. Nuestra guía de ingeniería rápida muestra cómo hacerlo.
• Proporcione los hechos. Cuando las respuestas deban provenir de sus propios documentos, utilice RAG en lugar de confiar en la memoria.
• Verifique lo que importa. Verifique cifras, citas y afirmaciones legales o médicas con fuentes confiables.
• Prueba el código generado. Ejecútalo y escribe pruebas para él, como lo harías con el de un colega. Nuestra guía de herramientas de revisión de código de IA cubre algo de ayuda.
• Proteja los datos confidenciales. Consulte las reglas de su organización antes de compartir información confidencial con una herramienta alojada.

Si está decidiendo cómo personalizar un modelo para su propio trabajo, nuestra comparación de RAG frente a ajuste fino frente a ingeniería rápida le ayudará a elegir.

Conclusión

Un LLM es un predictor del siguiente token entrenado a una escala extraordinaria y es más útil y más falible de lo que sugiere esa descripción. Tener presente el mecanismo le ayudará a utilizarlo bien: es fuerte con el lenguaje y los patrones, y necesita su supervisión de los hechos. Para hacerlo concreto, ejecute el pequeño script anterior con su propio texto, luego intente el mismo mensaje varias veces en un asistente real y compare las respuestas.

Preguntas frecuentes

sigue aprendiendo