Por qué la inteligencia artificial se inventa cosas: qué son las alucinaciones y de dónde vienen
Un modelo de inteligencia artificial recibió la misma pregunta tres veces: cuál era la fecha de cumpleaños de Adam Tauman Kalai, uno de sus investigadores. La condición era sencilla: responder únicamente si conocía el dato. El sistema ofreció tres fechas diferentes y las tres eran falsas. En ningún momento optó por decir no lo sé.
El caso resume uno de los problemas más importantes de los modelos de lenguaje: las llamadas alucinaciones. Se trata de afirmaciones que parecen razonables, están bien redactadas y pueden sonar convincentes, pero no se corresponden con la realidad. El fenómeno afecta a chatbots, asistentes de búsqueda y herramientas profesionales, aunque su frecuencia varía mucho según la tarea y el modelo.
Una respuesta plausible no equivale a una respuesta verdadera
Los modelos de lenguaje no consultan necesariamente una base de datos de hechos antes de contestar. Su funcionamiento básico consiste en calcular qué palabra o fragmento de texto tiene más probabilidades de aparecer después de los anteriores, a partir de los patrones aprendidos durante el entrenamiento.
Ese proceso permite redactar textos fluidos, resumir documentos o continuar una frase con gran precisión. Sin embargo, producir una respuesta que suene correcta no garantiza que el contenido sea cierto. El modelo puede construir una fecha, una cita académica o una dirección web siguiendo patrones habituales, aunque ese dato concreto no exista.
La diferencia es especialmente importante cuando se trata de información arbitraria. La ortografía, la gramática o ciertas estructuras habituales se pueden aprender porque contienen regularidades. En cambio, un cumpleaños concreto no se puede deducir: o el sistema ha encontrado y retenido ese dato con suficiente claridad o no lo tiene.
El entrenamiento no siempre permite distinguir lo conocido de lo inventado
Una investigación publicada en septiembre de 2025 por especialistas de OpenAI y Georgia Tech relaciona las alucinaciones con el modo en que se entrenan los modelos. Para aprender, estos sistemas procesan grandes cantidades de textos e intentan predecir los elementos que faltan. El problema aparece cuando deben clasificar una afirmación como válida o errónea sin disponer de señales suficientes.
El estudio plantea un ejemplo revelador: si una quinta parte de los cumpleaños incluidos en los datos de entrenamiento aparece una sola vez, el modelo puede equivocarse al menos en una proporción similar cuando se le pregunta por esas fechas. Lo que solo se ha visto una vez resulta difícil de distinguir de aquello que nunca apareció en los datos.
En esos casos, el sistema no recupera un recuerdo fiable como lo haría una persona al consultar un calendario. Genera la continuación estadísticamente más probable. Si la pregunta exige un dato que no puede verificar, esa predicción puede acabar convertida en una invención expresada con seguridad.
Los exámenes premian contestar, incluso cuando la respuesta es dudosa
El segundo factor está en la forma de evaluar a los modelos. Muchas pruebas conceden un punto por acertar y ninguno por dejar la respuesta en blanco o reconocer la incertidumbre. En un examen sin penalización por fallar, siempre parece rentable elegir una opción.
Ese sistema de medición favorece a los modelos que responden mucho, aunque parte de sus respuestas sean incorrectas. Un modelo que se abstiene cuando no tiene información puede obtener una puntuación inferior a otro que se arriesga constantemente, pese a que sea más fiable en un entorno real.
Los investigadores describen esta dinámica como una epidemia de evaluaciones que castigan la duda. La consecuencia es que los sistemas se optimizan para comportarse como buenos examinados, no necesariamente como asistentes capaces de reconocer sus límites.
La tasa de error depende de la tarea
No existe un porcentaje único de alucinaciones aplicable a toda la inteligencia artificial. La cifra cambia según el tipo de pregunta, la dificultad, la posibilidad de comprobar los datos y la tendencia del modelo a abstenerse.
Una comparación incluida en el análisis muestra la contradicción. El modelo o4-mini acertó aproximadamente el 24% de las preguntas, frente al 22% de gpt-5-thinking-mini. Sin embargo, también se equivocó casi tres veces más porque apenas dejó preguntas sin responder. Si solo se observan los aciertos, el sistema que más inventa puede parecer superior.
La investigación jurídica publicada en 2024 añadió otro problema: los modelos no siempre corrigen las premisas falsas que introduce el usuario. Si la pregunta parte de un dato erróneo, el chatbot puede aceptarlo y construir una respuesta completa sobre esa base, en lugar de señalar el error inicial.
La recuperación de documentos reduce el riesgo, pero no lo elimina
Una de las técnicas utilizadas para mejorar la fiabilidad es la generación aumentada por recuperación, conocida como RAG. Antes de redactar la respuesta, el sistema busca información en documentos seleccionados y utiliza ese material como contexto.
Este método puede reducir las invenciones porque aporta fuentes concretas, pero no garantiza que todo sea correcto. Un estudio preregistrado observó que herramientas jurídicas de LexisNexis y Thomson Reuters seguían generando respuestas falsas, aunque en menor medida que los chatbots generales.
También pueden aparecer referencias inexistentes, enlaces que nunca se han publicado o citas que combinan autores y títulos reales de forma incorrecta. La apariencia profesional del resultado no debe confundirse con una verificación independiente.
Qué puede hacer el usuario para detectar una alucinación
- Comprobar fechas, cifras, nombres propios y referencias en fuentes oficiales o especializadas.
- Solicitar enlaces directos y revisar que las páginas existan y contengan realmente la información citada.
- Preguntar al modelo qué nivel de confianza tiene y pedirle que reconozca si no puede verificar un dato.
- No utilizar una respuesta sin revisión en ámbitos médicos, legales, financieros o académicos.
- Desconfiar de respuestas muy concretas cuando no aportan documentos comprobables.
Las alucinaciones no parecen inevitables en todos los casos. Un modelo puede aprender a abstenerse cuando carece de información suficiente, aunque ningún sistema pueda garantizar una precisión absoluta. Siempre habrá preguntas ambiguas, datos inaccesibles o cuestiones sin una respuesta única.
La solución pasa también por cambiar los incentivos. Las evaluaciones deberían valorar los aciertos, pero penalizar con más claridad las respuestas inventadas y premiar una abstención justificada. Eso podría hacer que algunos modelos descendieran en las clasificaciones habituales, pero serían más útiles y seguros en situaciones reales.
