Cómo mostrar incertidumbre en respuestas de IA sin confundir a la persona
Mostrar incertidumbre en IA es comunicar qué tan segura es una respuesta y qué revisar. Cómo diseñarlo con niveles claros, fuentes y pasos de verificación.
¿Por qué un modelo debe decir que no está seguro?
Un modelo de lenguaje escribe con el mismo tono cuando acierta y cuando inventa. La respuesta correcta y la falsa llegan con la misma fluidez, y la persona no tiene una señal para distinguirlas. Para quien diseña, ese es el problema: el texto no trae ninguna marca de su propia calidad.
Mostrar incertidumbre intenta devolver esa señal. No se trata de que la IA diga “no sé” todo el tiempo, sino de que la interfaz deje ver dónde conviene revisar.
Microsoft, en su biblioteca HAX de patrones para interacción humano-IA, tiene una guía que lo resume: “Make clear how well the system can do what it can do”, es decir, deja claro qué tan bien puede hacer lo que hace. Es la guía G2, y sus cuatro patrones son concretos: ajustar la precisión del lenguaje de la interfaz al desempeño real del sistema, ajustar la precisión de los números que muestras, informar el desempeño del sistema y avisar cuando el desempeño es bajo.
¿Qué dice la evidencia?
Un estudio útil es un artículo publicado en arXiv en enero de 2025 por Zichen Chen, Yunhao Luo y Misha Sra. En un experimento controlado con 108 participantes, en una tarea de decisiones sobre el manejo de la diabetes, probaron seis mecanismos de apoyo a la decisión: niveles de confianza de la IA, explicaciones de texto, visualizaciones de desempeño, feedback humano, preguntas generadas por la IA y explicaciones visuales. Según el resumen, los niveles de confianza, las explicaciones de texto y las visualizaciones de desempeño mejoraron el desempeño del trabajo conjunto humano-IA.
El mismo estudio encontró que el feedback humano y las preguntas generadas por la IA invitaban a reflexionar más, pero muchas veces bajaban el desempeño porque exigían más esfuerzo mental. Mostrar más no siempre es mejor: una señal de confianza clara puede ayudar más que obligar a la persona a pensar en cada paso.
¿Cómo se muestra, en la práctica?
Hay tres formas que puedes combinar:
- Niveles cualitativos. Una etiqueta como “alta”, “media” o “baja” confianza, con un criterio que puedas explicar. Evita el porcentaje si el modelo no está calibrado para tu caso: un “87 %” promete una precisión que el sistema quizá no tiene, y HAX lo recoge como patrón propio (ajustar la precisión de los números al desempeño real).
- Partes específicas. En vez de un aviso al final, marca la frase o el dato que es menos seguro. “La fecha de entrega viene de un correo de hace tres meses” es más útil que “puede contener errores”.
- Caminos de verificación. Ofrece la fuente, el dato original o una acción de comprobación: abrir el documento, comparar con el sistema, pedir que se cite el origen.
Las fuentes ayudan mucho. Si la respuesta enlaza al fragmento de donde sale, la persona calibra por sí misma. Esto conecta con citas y fuentes, que es la forma más concreta de mostrar de dónde viene una afirmación.
¿Cuándo mostrar más y cuándo menos?
Ajusta la señal a lo que está en juego. Ejemplo ilustrativo de cómo graduarla:
| Qué está en juego | Ejemplo | Señal recomendada |
|---|---|---|
| Bajo | Resumen de una reunión interna | Nota ligera o ninguna |
| Medio | Borrador de correo a un cliente | Marca en las frases dudosas y enlace a la fuente |
| Alto | Cifra de un reporte financiero, dosis de un medicamento | Marca visible y paso de verificación obligatorio antes de usarla |
Si todo tiene advertencia, nada la tiene. Por eso conviene reservar las señales fuertes para resultados de alto impacto y dejar el resto sin marca. La idea de fondo, que la confianza debe ser proporcional a lo que la IA realmente puede hacer, está desarrollada en calibración de confianza.
¿Cómo decidir qué marcar?
Antes de marcar algo como incierto, responde tres preguntas:
- ¿Qué pasa si está mal? Si el costo de un error es bajo, una nota ligera basta. Si es una cifra financiera, un dato legal o una dosis, la marca debe ser visible y acompañarse de un paso de verificación.
- ¿La persona puede comprobarlo en segundos? Si sí, ofrece el enlace o el fragmento. Si no, dile que no puede verificarlo desde ahí y a quién preguntar.
- ¿El sistema sabe de dónde sale la duda? Una marca que dice “no encontré fuente para esta cifra” es más útil que una etiqueta genérica de baja confianza.
Después, mide. Si las personas corrigen más las partes marcadas que las no marcadas, la señal sirve. Si no corrigen ninguna, quizá la marca es ruido o está en el lugar equivocado.
¿Cuándo NO conviene?
Cuando la respuesta es trivial o verificable de inmediato, como una suma o un formato, una nota de incertidumbre solo estorba. Y cuando la incertidumbre no se puede reducir, decirlo sin dar un camino para actuar deja a la persona sola.
Ejemplo
Ejemplo ilustrativo: una herramienta de compras resume precios de proveedores. Algunos precios vienen de facturas escaneadas con texto ilegible. El equipo marca esos números con una etiqueta “revisar” y muestra el fragmento de la factura al lado. El resto de los precios aparece sin marca.
El resultado: la persona revisa solo los números marcados, en vez de desconfiar de todo o de nada. Ese es el punto de la señal específica.
Errores comunes
- Poner el mismo disclaimer en todas las respuestas, hasta que nadie lo lee.
- Mostrar un porcentaje de confianza que parece exacto pero no lo es.
- Marcar incertidumbre sin ofrecer cómo verificar.
- Esconder la respuesta detrás de advertencias en vez de mostrarla con su nivel de duda.
- Perder la marca al resumir. Si una respuesta larga se acorta o se copia a otro lugar, la duda debe viajar con el dato; si no, la versión corta se lee como un hecho firme.
- No medir si la señal cambia algo. Una pregunta útil es si la gente corrige más lo que está marcado, y eso se puede ver en el feedback del usuario.