Modelos de razonamiento: pensar antes de responder
Un modelo de razonamiento genera pasos intermedios antes de responder. Qué cambia frente a un LLM, cuándo compensa su costo y latencia y cómo diseñar con él.
¿Qué cambia frente a un LLM normal?
Un LLM clásico genera la respuesta directamente, token por token. Un modelo de razonamiento primero produce una cadena de pasos intermedios. Esa cadena puede ser visible para el usuario, parcialmente visible o totalmente interna, según el producto. En la API de OpenAI, por ejemplo, los tokens de razonamiento no se devuelven, pero ocupan espacio en la ventana de contexto y se cobran como tokens de salida.
Hay una idea anterior que conviene conocer: el chain of thought, o cadena de pensamiento. En 2022, Wei y colaboradores mostraron que, si el prompt incluye ejemplos con pasos intermedios, un modelo suficientemente grande resuelve mejor problemas aritméticos, de sentido común y simbólicos. Los modelos de razonamiento llevan ese comportamiento incorporado, en vez de depender de que el prompt lo pida.
¿Cómo se entrenan? El artículo que presentó DeepSeek-R1 describe dos caminos. DeepSeek-R1-Zero se entrenó con aprendizaje por refuerzo a gran escala, sin ajuste supervisado previo, y desarrolló por sí solo comportamientos de razonamiento, aunque con problemas de legibilidad y mezcla de idiomas. DeepSeek-R1 añade datos de arranque y un entrenamiento en varias etapas antes del refuerzo, y logra un rendimiento comparable al de OpenAI-o1-1217 en tareas de razonamiento. Lo que importa para diseño: estos modelos mejoran sobre todo donde la respuesta se puede verificar, como matemáticas y programación.
¿Por qué le importa a un diseñador?
Porque el razonamiento tiene un costo visible en la experiencia:
- Latencia. Generar más texto tarda más. Una respuesta que tarda 20 segundos necesita otro patrón de interfaz que una que aparece en uno. Ver latencia en LLMs y progreso de tareas largas.
- Costo. Los tokens de razonamiento se cobran como salida, aunque el usuario no los vea. Más razonamiento significa más costo por respuesta. Ver costo por token.
- Transparencia. Mostrar los pasos puede generar confianza, pero también puede exponer errores intermedios que confunden. Decide qué se muestra y en qué forma.
- Modos. Muchos productos ofrecen un selector entre respuesta rápida y respuesta razonada. Ese control es parte del diseño.
¿Cómo se controla cuánto razona un modelo?
Los proveedores exponen controles distintos, y conviene saber que existen porque son palancas de diseño:
| Proveedor | Control | Qué hace |
|---|---|---|
| OpenAI | Nivel de esfuerzo de razonamiento (por ejemplo, low, medium, high) | Un esfuerzo mayor suele implicar más razonamiento y más tokens cobrados |
| Anthropic | Presupuesto de pensamiento (budget_tokens) | Mínimo de 1.024 tokens y siempre menor que max_tokens; es un objetivo, no un tope estricto |
Los nombres y valores cambian entre modelos y versiones, así que revisa la documentación del modelo que uses. Dos consecuencias prácticas: el límite de tokens de salida incluye los tokens de razonamiento, y OpenAI recomienda reservar un margen amplio (al menos 25.000 tokens al empezar a experimentar) para que el modelo no se quede sin espacio antes de contestar. Si el límite es muy bajo, la respuesta visible puede salir vacía o cortada.
¿Cuándo NO conviene?
Para tareas simples, de redacción corta, clasificación o autocompletado. Ahí el razonamiento agrega espera y costo sin una mejora que el usuario note. También cuando la tarea no tiene una forma de verificarse: el razonamiento largo no garantiza que la conclusión sea correcta, solo que el texto parezca más trabajado.
Hay un riesgo adicional: más razonamiento es también una superficie de ataque. El trabajo OverThink mostró que se pueden esconder acertijos señuelo en contenido que el modelo lee (una página web, un documento) para forzarlo a razonar de más, con retrasos de hasta 18 veces en un conjunto de pruebas y 46 en otro, sin cambiar la respuesta final. Por eso conviene poner límites de tokens y de tiempo.
¿Cómo decidir?
Antes de activar razonamiento por defecto, prueba tres cosas:
- ¿La tarea tiene pasos, reglas o verificación? Si no, probablemente no lo necesita.
- ¿El usuario puede esperar? Si la respuesta es inmediata en la interfaz, el razonamiento tiene que justificar el retraso.
- ¿Cuánto cuesta la respuesta? Multiplica por el volumen esperado antes de elegirlo para toda la app.
Una regla práctica: empieza con el esfuerzo más bajo, mide si la calidad alcanza con una evaluación de tus propios casos y sube un nivel solo si hace falta.
Ejemplo
Ejemplo ilustrativo: una herramienta interna revisa si una especificación de componentes cumple reglas de accesibilidad con varios criterios encadenados. Con un modelo normal, responde rápido pero omite un criterio en algunos casos. Con razonamiento, tarda más y detecta el criterio omitido. El equipo decide usar razonamiento solo al pulsar “Revisión completa”, y muestra un indicador de progreso con los criterios que va revisando. El usuario entiende la espera y el resultado es más confiable.
Errores comunes
- Activar razonamiento para todo, sin medir costo ni latencia.
- Confiar en que el razonamiento largo equivale a una respuesta correcta.
- Mostrar el razonamiento completo a usuarios que solo necesitan la conclusión.
- Dejar a la interfaz sin indicación de progreso durante una espera larga.
- Fijar un límite de tokens de salida muy bajo y recibir respuestas vacías porque el razonamiento consumió todo el espacio.
- Comparar modelos con benchmarks de matemáticas cuando tu caso es redacción. Ver cómo leer benchmarks.
Fuentes
- Chain-of-thought prompting, Wei et al. (arXiv:2201.11903)
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning (arXiv:2501.12948)
- OverThink: Slowdown Attacks on Reasoning LLMs (arXiv:2502.02542)
- Reasoning models (guía de OpenAI)
- Extended thinking (documentación de Anthropic)