¿Qué es una alucinación de la IA y cómo se evita?

Qué se considera una alucinación

El Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) lo llama confabulación: una IA generativa que produce contenido erróneo o falso, pero expresado con seguridad. Alucinación es el nombre popular. También abarca las respuestas que contradicen el material que aportaste o lo que el propio modelo dijo antes en el mismo chat.

En imágenes y video, a veces también se llama alucinaciones a detalles raros como dedos de más u objetos que se derriten. Son un problema de calidad, no una afirmación falsa. En el trabajo creativo, inventar cosas que no existen suele ser precisamente el objetivo. La alucinación es un problema cuando necesitas datos reales.

Por qué alucinan los modelos de lenguaje

Un modelo de lenguaje escribe prediciendo el siguiente token, un fragmento pequeño de texto, a partir del texto anterior. Se entrena para producir texto probable, no texto verdadero. La mayoría de las veces lo probable y lo verdadero coinciden, y por eso los modelos son útiles. Los fallos aparecen donde no coinciden.

• No hay una comprobación de datos incorporada. Nada en la predicción del siguiente token compara la salida con el mundo real.
• Los datos poco frecuentes se aprenden mal. Un dato que apareció solo unas pocas veces en el entrenamiento se confunde fácilmente con otros parecidos, por ejemplo el año de nacimiento de un personaje público poco conocido.
• Se premia adivinar. Una investigación publicada en 2025 sostiene que el entrenamiento y las puntuaciones de las pruebas habituales dan crédito a una conjetura segura, pero ninguno a decir no lo sé, de modo que los modelos aprenden a adivinar.
• Imitar errores comunes. Los modelos entrenados con texto humano pueden repetir ideas erróneas muy extendidas, algo que el benchmark TruthfulQA se diseñó para medir.
• Presión del propio prompt. Una pregunta que da por hecho algo falso, como pedir la secuela de 2019 de una película que no tiene secuela, invita al modelo a seguir el juego.
• Contexto largo o desordenado. Los detalles del medio de una entrada larga se pasan por alto o se mezclan con más facilidad.
• Fecha de corte del conocimiento. El modelo no sabe nada de lo posterior al final de sus datos de entrenamiento, salvo que se le añadan búsquedas o documentos.

Qué tareas son más arriesgadas

El riesgo depende menos del modelo y más de lo que le pides que haga.

La investigación jurídica es una zona de peligro bien conocida. Algunos tribunales han sancionado a abogados por presentar escritos que citaban sentencias inventadas por chatbots.

Prompts que reducen la alucinación

El método más eficaz es el anclaje (grounding): dale al modelo el material de origen y dile que responda solo con ese material. Es también la idea detrás de la generación aumentada por recuperación (RAG), en la que un sistema busca primero en los documentos y coloca los mejores fragmentos en el prompt.

Weak prompt:
What is the refund period in our store policy?

Grounded prompt:
Answer using only the policy text below.
If the answer is not in the text, reply: Not stated in the policy.
Quote the exact sentence you used.

Policy:
<paste the policy text here>

Question: What is the refund period?

Cada línea del prompt anclado tiene su función. Only the policy text limita la fuente. La frase de reserva le da al modelo una respuesta segura distinta de adivinar. Quote the exact sentence te permite comprobar la respuesta en segundos.

Otros hábitos que ayudan:

1. Haz preguntas concretas. Es más fácil acertar un dato por pregunta que una lista larga.
2. Permite la incertidumbre. Añade una línea como: If you are not sure, say so and explain what would confirm it.
3. Activa la búsqueda o la navegación para datos actuales y luego abre los enlaces que cita la respuesta.
4. En problemas de varias partes, pide el razonamiento o los pasos y comprueba cada uno.
5. No pidas fuentes de memoria. Pídele que las busque con una herramienta de búsqueda, o búscalas tú y pégalas.
6. Con código, indica la versión de la biblioteca, pega la documentación relevante y ejecuta el código.

Cómo comprobar una respuesta de IA

Usa esta lista antes de apoyarte en algo factual o publicarlo:

1. Abre todos los enlaces y los DOI. Confirma que la página existe y que dice lo que afirma la respuesta.
2. Busca las citas textuales exactas. Si una cita no aparece en una fuente primaria, no la uses.
3. Comprueba cada cifra con una fuente primaria, como un sitio oficial de estadísticas, una norma o el artículo original.
4. Busca señales de alerta: cifras muy precisas sin fuente, listas de autores de aspecto genérico, referencias que no encuentras y respuestas que cambian al preguntar de nuevo.
5. Consigue una segunda fuente independiente para cualquier afirmación que importe; un segundo chatbot no cuenta.
6. En cuestiones legales, médicas o financieras, que lo revise una persona cualificada.

Límites de las soluciones

Ningún método actual elimina la alucinación por completo. El anclaje y la RAG reducen mucho la tasa en las preguntas que los documentos pueden responder, pero el modelo aún puede interpretar mal un pasaje, fundir dos pasajes o rellenar un hueco que dejan los documentos. Las herramientas de búsqueda pueden devolver páginas de mala calidad y el modelo puede fiarse de ellas.

Bajar la temperatura hace las respuestas más repetibles, no más exactas. Si la respuesta más probable es incorrecta, el modelo repetirá siempre el mismo error.

Los modelos más nuevos suelen alucinar menos en las preguntas comunes y algunos se entrenan para admitir la incertidumbre con más frecuencia. Aun así, las tasas varían según el tema y el idioma, así que prueba el modelo con tu tipo de preguntas antes de fiarte y mantén una revisión humana donde los errores salgan caros.