¿Cómo funcionan los grandes modelos de lenguaje (LLM)?

La versión corta: un adivinador de palabras muy bueno

Un LLM hace una sola cosa una y otra vez. Mira el texto hasta ese momento y estima la probabilidad de cada posible fragmento siguiente. Luego elige uno, lo añade y vuelve a mirar. Una respuesta de 300 palabras son unos cientos de estos pasos pequeños.

Parece demasiado simple para producir ensayos, código y traducciones. La potencia viene de la escala. El modelo tiene miles de millones de parámetros, que son números que se ajustan durante el entrenamiento, y se entrenó con una cantidad enorme de texto. Para predecir bien la siguiente palabra en tanto texto, tiene que captar la gramática, los datos, los estilos de razonamiento y la estructura del código.

Los asistentes de chat como ChatGPT, Claude, Gemini, DeepSeek y Qwen son productos construidos alrededor de LLM. El producto añade una interfaz de chat, un prompt de sistema oculto, reglas de seguridad y, a menudo, herramientas como la búsqueda web. El núcleo sigue siendo la predicción del siguiente token.

Qué ocurre con tu mensaje, paso a paso

Toma el prompt The capital of France is. Esto es lo que hace el modelo con él:

1. Tokenizar: el texto se divide en tokens. Con un tokenizador habitual, este prompt se convierte en cinco tokens: The, capital, of, France, is (casi todos llevan el espacio inicial).
2. Incrustar: cada token se sustituye por una lista larga de números, un embedding, que lo coloca en un espacio donde los significados relacionados quedan cerca.
3. Atender: los embeddings pasan por decenas de capas del transformer. En cada capa, un paso de atención deja que cada token mire a los anteriores y recoja lo que le sirve.
4. Puntuar: la última capa produce una puntuación para cada token del vocabulario, que suele tener 100.000 entradas o más. Las puntuaciones se convierten en probabilidades.
5. Muestrear: se elige un token según esas probabilidades y los ajustes de muestreo.
6. Repetir: el token elegido se añade al texto y todo el proceso se ejecuta de nuevo para el siguiente token, hasta que el modelo emite un token de parada o llega al límite de longitud.

Las probabilidades del siguiente token podrían ser así. Los números son ilustrativos y no proceden de un modelo real:

De esta tabla se sacan dos lecciones. Primera: el modelo no consulta una entrada de una base de datos, sino que produce la continuación más probable. Segunda: un token incorrecto siempre tiene alguna probabilidad, y esa es una de las razones por las que los modelos a veces dicen cosas falsas.

La atención: cómo el modelo sigue el hilo del significado

La atención es la idea central de la arquitectura transformer, publicada en 2017. Para cada token, el modelo calcula cuánto peso debe dar a cada token anterior al construir su significado.

Fíjate en esta frase: The trophy did not fit in the suitcase because it was too big. Para entender a qué se refiere it, el modelo debe vincularlo con el trofeo (trophy) y no con la maleta (suitcase). Si cambias big por small, it pasa a significar la maleta. La atención permite al modelo establecer ese vínculo a partir de las palabras que rodean, a lo largo de muchas capas que van afinando el resultado.

Como la atención compara cada token con los anteriores, el coste crece rápido cuando el texto se alarga. Por eso todos los modelos tienen una ventana de contexto: un máximo de tokens que pueden considerar a la vez.

Cómo se entrenan los LLM: tres etapas

Un predictor de tokens en bruto todavía no es un asistente útil. Si le haces una pregunta, puede continuar con más preguntas, porque eso también parece texto de internet. Los asistentes actuales pasan por varias etapas de entrenamiento.

La investigación sobre InstructGPT mostró que los usuarios preferían un modelo más pequeño entrenado así antes que un modelo mucho mayor que solo tenía preentrenamiento. En el momento de escribir este artículo, muchos modelos reciben además un entrenamiento extra para resolver los problemas paso a paso antes de responder, algo que los productos suelen mostrar como un modo de pensamiento o razonamiento.

El entrenamiento se hace una vez, con un coste enorme, antes del lanzamiento. Cuando chateas con un modelo, sus parámetros no cambian. No aprende de tu conversación en ese momento, aunque un proveedor puede usar las conversaciones para entrenar versiones posteriores si su política lo permite.

Ajustes de muestreo que cambian la respuesta

El mismo prompt puede dar respuestas distintas porque el modelo muestrea a partir de probabilidades. Si usas una API, puedes controlar cómo ocurre. Los rangos y valores por defecto exactos dependen del proveedor.

Una temperatura baja hace las respuestas más consistentes, pero no más verdaderas. Si la continuación más probable es incorrecta, con temperatura baja el modelo se equivoca siempre.

Lo que los LLM no hacen

Muchos fallos sorprendentes tienen sentido en cuanto recuerdas el mecanismo:

• No ven letras. Un modelo ve tokens, así que una palabra como strawberry puede llegar en tres trozos, por ejemplo st, raw y berry. Por eso es difícil contar letras o escribir palabras al revés.
• No recuerdan por sí solos los chats anteriores. Las funciones de memoria de las aplicaciones guardan notas y las insertan en el prompt.
• No conocen los acontecimientos recientes, a menos que la aplicación añada resultados de búsqueda o documentos al contexto.
• No comprueban los datos. Nada en la predicción del siguiente token compara la salida con la realidad, así que un texto fluido puede ser falso.
• No ejecutan código ni hacen aritmética exacta si no llaman a una herramienta. Las multiplicaciones largas hechas solo con texto son propensas a errores.

Los buenos productos cubren estas carencias con herramientas: una calculadora, un ejecutor de código, la búsqueda web o la recuperación desde tus propios documentos. Si sabes que la carencia existe, sabes cuándo pedir una herramienta o comprobar tú mismo la respuesta.

Consejos prácticos que se derivan de cómo funcionan los LLM

• Pon el material en el prompt. Si quieres una respuesta sobre un documento, pega la parte relevante. El modelo razona mucho mejor sobre el texto que ve que a partir de recuerdos vagos del entrenamiento.
• Sé específico con la salida. Indica el formato, la longitud, el público y el idioma. El modelo rellena los huecos con la opción más típica.
• Pide pasos en los problemas difíciles. Escribir pasos intermedios le da al modelo más tokens con los que trabajar antes de comprometerse con una respuesta.
• Abre un chat nuevo para una tarea nueva. Los mensajes antiguos y sin relación siguen en el contexto y pueden desviar la respuesta.
• Verifica nombres, cifras, citas y enlaces. Son los detalles con más probabilidad de ser inventados.