Una inteligencia artificial puede explicar un tema difícil con una claridad sorprendente y, unos segundos después, inventar el título de un estudio, atribuir una frase a la persona equivocada o dar una fecha que nunca existió. Lo más desconcertante no es solamente el error: es la seguridad con la que lo presenta. La respuesta puede tener buena estructura, detalles específicos y un tono convincente. Todo parece encajar hasta que alguien comprueba los datos.
A estos errores se les suele llamar alucinaciones de la inteligencia artificial. El término describe respuestas plausibles pero falsas generadas por modelos de lenguaje. No significa que la máquina vea o escuche cosas como una persona. Tampoco implica que tenga intención de engañar. Es una forma breve —aunque imperfecta— de nombrar un problema técnico: el sistema produce lenguaje coherente sin contar siempre con una base suficiente para garantizar que cada afirmación es cierta.
La diferencia entre sonar bien y tener razón es una de las claves para entender la IA generativa. Estos sistemas fueron entrenados para producir secuencias útiles y naturales, no para funcionar como una base de datos infalible. Pueden manejar relaciones complejas y resolver muchas tareas, pero la fluidez no es una prueba de veracidad.
Qué es realmente una “alucinación”
La palabra se usa para fenómenos distintos. Una IA puede inventar un hecho externo, como una ley inexistente; contradecir la información que el usuario le proporcionó; mezclar datos verdaderos de varias personas; o crear una cita con formato académico que parece auténtica. También puede describir objetos que no aparecen en una imagen o completar con detalles imaginados un documento incompleto.
El Instituto Nacional de Estándares y Tecnología de Estados Unidos prefiere el término confabulación en su perfil de riesgos para la IA generativa. La idea central es la misma: el sistema genera contenido falso o erróneo con una estructura que puede parecer confiable. El problema afecta especialmente al texto, porque el lenguaje permite construir explicaciones muy específicas aunque la evidencia no exista.
No todo error es una alucinación. Si una pregunta es ambigua y el modelo interpreta otra cosa, puede tratarse de un problema de contexto. Si utiliza información que era correcta durante su entrenamiento pero después cambió, el dato está desactualizado. Si falla una operación matemática, hablamos de un error de razonamiento. En la práctica, las fronteras se mezclan, pero distinguirlas ayuda a no buscar una única solución para problemas diferentes.
El modelo no consulta una enciclopedia interna
Para comprender por qué ocurren estos errores hay que abandonar una imagen intuitiva pero equivocada: la de un programa que guarda millones de documentos y busca una respuesta terminada. Un modelo de lenguaje no funciona como una biblioteca con cajones de hechos. Durante el entrenamiento ajusta una enorme cantidad de parámetros para aprender patrones estadísticos del lenguaje y relaciones presentes en los datos.
Cuando recibe una pregunta, procesa el contexto y calcula qué fragmento —un token, que puede ser una palabra, parte de una palabra o un signo— tiene más posibilidades de continuar la secuencia. Después repite el proceso con el nuevo fragmento incluido. Así construye la respuesta paso a paso.
Predecir el siguiente token parece una tarea modesta, pero al realizarse a gran escala permite aprender gramática, estilos, conceptos, asociaciones y ciertos patrones de razonamiento. El modelo puede redactar, resumir, traducir y relacionar ideas porque ha comprimido regularidades muy complejas. Sin embargo, el objetivo básico sigue siendo producir una continuación adecuada al contexto.
Esta distinción explica una situación que a primera vista parece absurda. Para el modelo, una fecha falsa con el formato correcto puede ser una continuación lingüísticamente razonable. Si el dato es raro, apenas apareció durante el entrenamiento o se parece a otros, el sistema puede completar el patrón sin recuperar el hecho exacto. La oración resultante “suena” como las oraciones verdaderas que aprendió, aunque su contenido sea incorrecto.
Por qué los datos raros son más difíciles
Algunos conocimientos siguen reglas repetibles. La ortografía, por ejemplo, contiene patrones frecuentes. Otros datos son casi arbitrarios: la fecha de nacimiento de una persona poco conocida, el número de una resolución local o el título exacto de una tesis. No es posible deducirlos solamente por su forma.
Una investigación publicada por OpenAI en 2025 utiliza una comparación sencilla: reconocer gatos y perros es viable porque las imágenes comparten características que se pueden aprender; predecir la fecha de nacimiento de cada animal sería muy distinto, porque ese dato no se deduce de su apariencia. En el lenguaje sucede algo parecido. Cuanto más infrecuente y arbitrario sea un hecho, mayor es el riesgo de que el modelo complete el espacio con una opción plausible.
También importa la calidad del material de entrenamiento. Internet contiene errores, contradicciones, copias, publicidad disfrazada de información y textos sin contexto. Un modelo puede aprender patrones a partir de todo ello. Filtrar y seleccionar mejores datos reduce problemas, pero no convierte automáticamente el entrenamiento en una colección perfecta de hechos verificados.
Además, el mundo cambia. Aparecen nuevas leyes, productos, cargos públicos y resultados. Un modelo sin acceso a información actualizada puede responder basándose en un estado anterior del conocimiento. Incluso con acceso a internet, debe encontrar la fuente correcta, interpretarla y utilizarla sin mezclarla con asociaciones internas.
Por qué responde en lugar de decir “no lo sé”
Aquí aparece una causa menos obvia: los sistemas de entrenamiento y evaluación pueden premiar la respuesta arriesgada. Si un examen cuenta solamente los aciertos, adivinar ofrece una pequeña posibilidad de ganar un punto; dejar la pregunta en blanco garantiza que no se obtiene. A gran escala, el modelo que siempre intenta contestar puede mostrar más aciertos, pero también muchos más errores.
El trabajo de OpenAI sobre alucinaciones sostiene que varias evaluaciones tradicionales favorecen esa conducta. En uno de sus ejemplos, un modelo tenía una tasa de acierto ligeramente mayor porque casi nunca se abstenía, pero su tasa de error era muy superior. El modelo más prudente respondía menos preguntas y, por eso, parecía peor si solo se observaba la cantidad de aciertos.
Esto no significa que los exámenes sean la única causa ni que el modelo tome una decisión consciente de “arriesgarse”. Significa que los objetivos utilizados para entrenar y comparar sistemas influyen en el comportamiento que termina apareciendo. Si la industria premia responder y castiga la incertidumbre, obtiene asistentes más dispuestos a completar huecos.
Por qué una falsedad puede ser tan convincente
Los modelos han visto una enorme cantidad de estructuras. Saben cómo se redacta una noticia, cómo se presenta una bibliografía y qué elementos suelen acompañar una explicación científica. Cuando falta un dato, pueden reproducir perfectamente el molde.
Una referencia inventada puede contener autores con nombres creíbles, un título relacionado con el tema, el nombre de una revista real y un año razonable. Cada elemento encaja estadísticamente con los demás. El problema solo aparece al comprobar si el artículo existe.
La especificidad aumenta la ilusión de autoridad. Las personas solemos confiar más en una afirmación acompañada de fechas, porcentajes y nombres propios. Pero una IA puede generar esos detalles con la misma facilidad que una explicación general. Añadir precisión verbal no siempre añade precisión factual.
También interviene nuestra tendencia a aceptar información que coincide con lo que esperábamos. Si la respuesta confirma una creencia o resuelve rápidamente una duda, tenemos menos motivos emocionales para cuestionarla. El riesgo no depende únicamente de la tecnología; depende de la relación entre una máquina persuasiva y un usuario que busca una respuesta cómoda.
Cuándo se vuelve un problema serio
Una alucinación en una historia creativa quizá no sea un fallo: inventar es parte de la tarea. El mismo comportamiento cambia de significado cuando se pregunta por salud, derecho, finanzas, seguridad o información sobre una persona real.
En medicina, un detalle falso puede afectar una decisión de tratamiento. En derecho, citar una norma inexistente puede perjudicar un caso. En periodismo, una atribución inventada puede dañar la reputación de alguien. En programación, una función que no existe hace perder tiempo, pero una configuración de seguridad incorrecta puede abrir una vulnerabilidad.
El riesgo combina tres factores: la probabilidad del error, la dificultad para detectarlo y el daño que puede causar. Un dato equivocado sobre una película suele ser fácil de corregir y tiene pocas consecuencias. Una recomendación incorrecta en un contexto especializado puede pasar inadvertida precisamente porque el usuario consulta a la IA al no dominar el tema.
Por esa razón, NIST no trata la confabulación como una curiosidad, sino como un riesgo que las organizaciones deben medir y gestionar. No basta con colocar una advertencia genérica. Hay que decidir qué tareas pueden automatizarse, qué fuentes se consideran autorizadas y en qué momentos se requiere revisión humana.
¿Buscar información elimina las alucinaciones?
Una de las estrategias más utilizadas consiste en conectar el modelo con documentos, bases de datos o búsquedas. En los sistemas conocidos como generación aumentada por recuperación, primero se localiza información relacionada con la pregunta y después el modelo redacta una respuesta basándose en ella.
La técnica puede mejorar mucho la precisión porque la respuesta deja de depender únicamente de los patrones aprendidos durante el entrenamiento. También permite mostrar citas y trabajar con información privada o reciente. Sin embargo, no es una garantía absoluta.
El buscador puede recuperar un documento irrelevante, la fuente puede contener un error o el modelo puede interpretar mal un párrafo correcto. Incluso puede producir una afirmación que la cita no respalda. Investigaciones recientes sobre factualidad advierten que los sistemas con recuperación siguen generando errores y que hay que evaluar por separado si la respuesta es fiel al documento y si el documento es verdadero.
Las herramientas reducen el problema, pero añaden pasos que también pueden fallar. Una IA con navegador no se transforma automáticamente en investigadora. Necesita buenas consultas, fuentes fiables, comparación y la capacidad de reconocer cuando la evidencia es insuficiente.
Qué están haciendo los desarrolladores
La reducción de alucinaciones se trabaja en varias etapas. Durante el entrenamiento se seleccionan datos de mayor calidad y se ajustan los modelos con ejemplos de respuestas útiles y honestas. Después se les enseña a seguir instrucciones, utilizar herramientas, expresar incertidumbre y rechazar premisas falsas.
También se desarrollan evaluaciones específicas de factualidad. Algunas comparan respuestas breves con datos conocidos; otras dividen un texto en afirmaciones que luego se verifican. El reto aumenta en respuestas largas y abiertas, porque pueden combinar opiniones, inferencias y hechos que cambian con el tiempo.
Otra línea de trabajo es la calibración: lograr que el comportamiento del modelo refleje mejor lo que sabe y lo que no sabe. Un sistema útil no debería limitarse a producir la respuesta más probable; debería abstenerse o pedir información cuando la posibilidad de error es alta. Eso requiere que las evaluaciones reconozcan que “no sé” puede ser mejor que una afirmación falsa.
Los modelos más recientes suelen cometer menos errores que sus predecesores en distintas pruebas, especialmente cuando pueden razonar y usar herramientas. Pero “menos” no significa “cero”. La factualidad sigue siendo un área activa de investigación, como documenta una revisión publicada en EMNLP que reúne causas, métodos de evaluación y estrategias de mejora.
Cómo cambia nuestra relación con la información
Durante años aprendimos a desconfiar de páginas con mal diseño, faltas de ortografía o titulares exagerados. La IA rompe esas señales. Puede presentar información falsa con redacción impecable, tono moderado y una estructura profesional. Ya no podemos usar la calidad de la presentación como sustituto de la evidencia.
Esto obliga a recuperar una pregunta básica: “¿de dónde sale?”. En temas importantes, una respuesta debería permitir rastrear sus afirmaciones hasta fuentes reales. Si menciona un estudio, conviene comprobar que exista y que diga lo que se le atribuye. Si resume un documento, hay que revisar los fragmentos decisivos. Si ofrece una recomendación profesional, no debe reemplazar a la persona responsable de esa decisión.
No se trata de verificar cada palabra en cada conversación. Sería poco práctico y eliminaría buena parte de la utilidad. Se trata de aumentar la revisión cuando aumentan las consecuencias. Podemos aceptar una idea de nombre para un personaje con una supervisión mínima; no deberíamos aceptar igual una dosis médica o un contrato.
La IA resulta especialmente valiosa como herramienta para explorar, organizar, comparar y transformar información. Es menos segura cuando se utiliza como una autoridad final que debe responder cualquier cosa. La diferencia está tanto en el diseño del producto como en nuestras expectativas.
Una máquina que domina el lenguaje no domina automáticamente la verdad
Las alucinaciones no son un pequeño defecto añadido a un sistema que, por lo demás, consulta hechos perfectos. Surgen de la manera en que los modelos aprenden patrones, generan texto y son recompensados por responder. Por eso no existe un botón sencillo que las apague.
Al mismo tiempo, no son un misterio imposible de reducir. Mejores datos, acceso a fuentes, evaluaciones que penalicen los errores seguros, sistemas capaces de abstenerse y supervisión humana pueden mejorar mucho la confiabilidad. La meta realista no es fingir que la IA nunca se equivoca, sino conseguir que falle menos, que muestre mejor sus límites y que no ocupe por sí sola funciones donde un error tiene consecuencias graves.
Tal vez la lección más útil sea esta: la capacidad de producir una explicación convincente y la capacidad de demostrarla son cosas diferentes. La inteligencia artificial ya es extraordinaria en la primera. Nuestra responsabilidad —como desarrolladores, medios y usuarios— es no dar por sentada la segunda.
Fuentes consultadas
- OpenAI: por qué los modelos de lenguaje alucinan.
- NIST: perfil de riesgos de la inteligencia artificial generativa.
- EMNLP 2024: revisión sobre la factualidad de los modelos de lenguaje.
- ACL 2026: detección de errores en generación aumentada por recuperación.
- OpenAI Help Center: precisión y verificación de respuestas.
