# Alucinaciones: por qué la IA inventa y cómo diseñar para ello > Una alucinación es una respuesta de IA que suena segura pero contiene datos falsos. Por qué ocurre, cómo reducirla y cómo diseñar para no confiar a ciegas. *Tags: ia, fundamentos, confianza, diseno-con-ia* --- > [!info] Definición Rápida > Una **alucinación** de IA es una respuesta generada por un modelo que contiene información falsa o engañosa presentada como un hecho. Es un efecto de cómo se genera el texto, no una mentira intencional, y suele sonar tan segura como una respuesta correcta. ## ¿Qué es una alucinación? Un [[que-es-un-llm|LLM]] genera texto un [[tokens|token]] a la vez: calcula qué tan probable es cada continuación y elige una. Ese proceso produce frases correctas y convincentes aunque el contenido sea falso. Una cita inventada, una fecha equivocada, una función de software que no existe o una estadística sin origen son ejemplos típicos. Una revisión académica de referencia (Ji et al., publicada en ACM Computing Surveys) distingue dos tipos. Una alucinación **intrínseca** es una salida que contradice el contenido de origen, por ejemplo un resumen que dice lo contrario del documento. Una **extrínseca** es una salida que no se puede verificar a partir de ese origen: no está respaldada ni refutada por él. Para quien usa el producto la diferencia importa poco: en ambos casos la respuesta parece cierta. También se le llama confabulación. Hay críticos que objetan la palabra "alucinación" porque humaniza a un programa que no percibe nada; en esta wiki la usamos porque es el término que ya conoce la mayoría. ## ¿Por qué ocurre? Hay varias causas, y muchas se combinan: - **El objetivo de entrenamiento.** El modelo aprende a predecir texto plausible. Si el dato exacto no aparece en lo que aprendió, igual puede producir algo que suene bien. - **Evaluaciones que premian adivinar.** Un artículo de investigadores de OpenAI (Kalai, Nachum, Vempala y Zhang, 2025) sostiene que el entrenamiento y la evaluación actuales recompensan adivinar en lugar de admitir incertidumbre: en un examen, una respuesta al azar suma puntos y "no sé" no suma ninguno. Proponen cambiar la puntuación de los benchmarks. - **Datos imperfectos.** Los datos de entrenamiento pueden estar incompletos, desactualizados o repetir errores comunes de internet. - **Falta de contexto.** Si la información relevante no está en la [[ventana-de-contexto|ventana de contexto]], el modelo rellena con lo que le parece probable. - **Preguntas fuera de su alcance.** Pedir datos muy recientes o internos de una empresa sin darle acceso a fuentes sube el riesgo. La [[temperatura-y-top-p|temperatura]] cambia cuánto varía la respuesta, pero bajarla no arregla un dato que el modelo no tiene. ## ¿Cómo se reducen? Ningún método las elimina. La documentación de Anthropic lo dice así: estas técnicas reducen las alucinaciones, pero no las eliminan, y hay que validar la información crítica. Las que recomienda y que sirven en cualquier producto: - **Permitir "no sé".** Dar permiso explícito al modelo para admitir que no tiene suficiente información reduce las respuestas inventadas. - **Pedir citas textuales primero.** En documentos largos, pedir que el modelo extraiga las frases exactas antes de responder ancla la respuesta al texto real. Si no encuentra una cita que respalde una afirmación, debe retirarla. - **Restringir a los documentos dados.** Indicar que use solo la información provista, no su conocimiento general. Es la idea detrás de [[rag|RAG]]. - **Comparar varias ejecuciones.** Si la misma pregunta da respuestas distintas, es una señal de que algo es dudoso. - **Evaluar con casos reales.** Un conjunto de preguntas con respuestas conocidas permite medir si el sistema empeora tras un cambio. Ver [[que-son-los-evals|evals]]. Ojo con asumir que RAG lo resuelve. Un estudio de Stanford (Magesh y otros, publicado en el *Journal of Empirical Legal Studies* en 2025) evaluó herramientas de investigación jurídica de LexisNexis y Thomson Reuters, que anuncian recuperación de documentos reales. Alucinaron menos que un chatbot general como GPT-4, pero aun así más del 17 % de las veces. ## ¿Qué pasa cuando nadie verifica? Dos casos públicos muestran el costo: - **Mata v. Avianca (2023, Nueva York).** Un abogado presentó ante un tribunal seis casos citados que ChatGPT había inventado. El juez P. Kevin Castel sancionó con 5 000 dólares a los abogados por mala fe. - **Moffatt v. Air Canada (2024, Columbia Británica).** El chatbot de la aerolínea le dijo a un pasajero que podía pedir la tarifa por duelo después de comprar el pasaje, algo que la política no permitía. El tribunal responsabilizó a la aerolínea de la información que dio su propio chatbot y le ordenó pagar. La lección de diseño es la misma en ambos: la responsabilidad no se traslada al modelo. Si tu producto muestra una respuesta, tu producto responde por ella. ## ¿Cómo diseñar para ellas? El diseño no puede prometer exactitud, así que debe facilitar la verificación. Las guías HAX de Microsoft dan una base: dejar claro qué tan bien hace el sistema lo que hace (G2), apoyar la corrección eficiente (G9), reducir el alcance cuando hay duda (G10) y explicar por qué hizo lo que hizo (G11). En la práctica: - Muestra la fuente junto a la afirmación, no solo al final de la respuesta. Ver [[citas-y-fuentes|citas y fuentes]]. - Distingue visualmente lo que viene de un documento de lo que el modelo generó. - En temas de alto riesgo (salud, dinero, legal, seguridad), no presentes la respuesta como definitiva; ofrece revisión humana o un siguiente paso verificable. - Da una forma sencilla de corregir ("esto no es así"), con retroalimentación que el equipo pueda usar. Ver [[feedback-de-usuario-en-ia|feedback del usuario]]. - Cuando el sistema no tenga base para responder, que diga "no encontré esto en tus documentos" en lugar de improvisar. Más en [[mostrar-incertidumbre|cómo mostrar incertidumbre]] y [[calibracion-de-confianza|calibración de confianza]]. ## Ejemplo Ejemplo ilustrativo: una app de contabilidad ayuda a clasificar gastos y, en un caso, sugiere una deducción fiscal que no existe en el país de la persona. El equipo no puede evitar del todo que pase, pero sí diseñar alrededor: mostrar la regla que aplicó con su fuente, pedir confirmación antes de guardar y marcar las sugerencias que dependen de normas locales. La persona ve de dónde sale la sugerencia y puede rechazarla sin perder su trabajo. ## Errores comunes - Creer que un modelo más nuevo ya no alucina. Baja la frecuencia, no la elimina. - Creer que RAG elimina el problema. - Mostrar las respuestas con el mismo tono en temas triviales y en temas críticos. - Confiar en citas generadas sin abrir la fuente. - No medir la tasa de error antes de lanzar la función. - Esconder las fuentes porque "ensucian" la interfaz. ## Fuentes - [Hallucination (artificial intelligence), Wikipedia](https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)) - [Survey of Hallucination in Natural Language Generation (Ji et al., arXiv:2202.03629)](https://arxiv.org/abs/2202.03629) - [Why Language Models Hallucinate (Kalai et al., arXiv:2509.04664)](https://arxiv.org/abs/2509.04664) - [Reduce hallucinations (documentación de Anthropic)](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations) - [Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools (Stanford Law)](https://law.stanford.edu/publications/hallucination-free-assessing-the-reliability-of-leading-ai-legal-research-tools) - [Air Canada's chatbot gave a B.C. man the wrong information (CTV News)](https://www.ctvnews.ca/vancouver/article/air-canadas-chatbot-gave-a-bc-man-the-wrong-information-now-the-airline-has-to-pay-for-the-mistake/) - [Guidelines for Human-AI Interaction (Microsoft Research)](https://www.microsoft.com/en-us/research/articles/guidelines-for-human-ai-interaction/) --- Source: https://www.fernandoux.com/es/wiki/ia/alucinaciones/