Una alucinación de la inteligencia artificial es una respuesta falsa o inventada que el sistema presenta con seguridad, como si fuera un hecho. El perfil de IA generativa del NIST, el instituto de estándares de Estados Unidos, la llama “confabulación” y la explica como un resultado natural de cómo funcionan estos modelos: generan texto que imita los patrones de sus datos de entrenamiento, no texto verificado.
Qué cuenta como alucinación
El documento NIST AI 600-1, publicado en julio de 2024, describe tres formas del mismo problema:
- Contenido erróneo o falso presentado con confianza, en respuesta a una pregunta.
- Respuestas que se apartan de lo que se pidió o de la información que el usuario entregó.
- Contradicciones con lo que el propio sistema dijo antes en la misma conversación.
El NIST añade un detalle importante: el sistema también puede inventar la lógica o las citas que supuestamente justifican su respuesta. Un modelo puede describir paso a paso cómo llegó a un resultado aunque el resultado sea incorrecto, o citar una fuente que no dice lo que afirma.
Según el mismo documento, el problema es más relevante en preguntas abiertas que piden respuestas largas y en temas que exigen mucho contexto o conocimiento especializado. El riesgo aparece cuando la persona cree el contenido falso, a menudo por el tono seguro de la respuesta, y actúa con base en él.
Por qué ocurre
Un modelo de lenguaje predice la siguiente palabra a partir de probabilidades aprendidas en enormes cantidades de texto. Esa predicción estadística puede producir respuestas exactas, pero también otras que suenan bien y son falsas, explica el NIST.
En septiembre de 2025, cuatro investigadores, tres de ellos de OpenAI, publicaron el artículo «Why Language Models Hallucinate» con una explicación en dos partes.
En el entrenamiento inicial. Aunque los datos no tuvieran errores, el modelo cometería algunos, porque distinguir un dato válido de uno falso es un problema de clasificación que nunca se resuelve a la perfección. Los autores ponen el ejemplo de los cumpleaños: no hay un patrón que permita deducir la fecha de nacimiento de una persona poco conocida. Si el 20 % de esas fechas aparece una sola vez en los datos de entrenamiento, se puede esperar que el modelo base falle en al menos el 20 % de esas preguntas.
En las evaluaciones. La mayoría de las pruebas con las que se mide a estos sistemas califica como en un examen de opción múltiple: una respuesta correcta vale un punto, y una respuesta errónea o un “no sé” valen cero. Con esa regla, adivinar siempre conviene más que admitir duda. Los autores comparan a los modelos con estudiantes que inventan una respuesta plausible cuando no saben, porque así suben su calificación.
| Regla de la prueba | Acierto | “No sé” | Error | Qué conviene hacer |
|---|---|---|---|---|
| Calificación binaria | 1 | 0 | 0 | Adivinar siempre |
| Con penalización por error | 1 | 0 | Resta puntos | Responder solo con suficiente certeza |
La propuesta del artículo es cambiar la forma de calificar: indicar en cada pregunta un umbral de confianza y restar puntos a los errores, como hacen algunos exámenes estandarizados. Es una propuesta de investigación, no una norma que los desarrolladores estén obligados a seguir.
Los autores también advierten que la búsqueda en internet y las técnicas que dan al modelo documentos de apoyo reducen las alucinaciones, pero no las eliminan: si la búsqueda no da una respuesta clara, la regla de calificación sigue premiando la conjetura.
Dónde te puede afectar con tu dinero
Un error de este tipo es más costoso cuando la respuesta se usa para tomar una decisión. Algunos casos comunes al usar un chatbot para temas financieros:
- Cifras que cambian con el tiempo, como tasas, comisiones, límites o fechas de pago. El modelo puede dar un número de su entrenamiento, uno mezclado de varias fuentes o uno inventado. Para la tasa de CETES, consulta la página de CETES o el sitio oficial, no la respuesta de un chat.
- Reglas fiscales y legales, como un porcentaje de retención o un plazo para presentar un trámite. Un artículo de ley citado con precisión aparente puede no existir o decir otra cosa.
- Nombres y registros de instituciones. Si un chatbot afirma que una empresa está autorizada, verifícalo tú en el registro de la autoridad.
- Recomendaciones de inversión. Una explicación ordenada y segura no prueba que el análisis sea correcto.
Cómo reducir el riesgo
- Pide la fuente y ábrela. No basta con que el sistema muestre un enlace: revisa que la página exista y diga lo que el chatbot afirma.
- Contrasta cualquier cifra en el sitio oficial antes de usarla en un cálculo o una decisión.
- Haz preguntas concretas y cerradas. El NIST señala que el problema pesa más en respuestas largas y abiertas.
- Desconfía del tono. La seguridad de una respuesta no dice nada sobre su exactitud.
- No compartas datos bancarios para “verificar” algo. Lee qué evitar al usar ChatGPT o Gemini con datos bancarios.
Si estás valorando herramientas que prometen análisis financiero automático, revisa también qué puede ofrecer la asesoría de inversión con inteligencia artificial. Y para conocer cómo ve el banco central los riesgos de esta tecnología, consulta qué advierte Banxico sobre la inteligencia artificial.
