¿Qué es un LLM? Explicado para diseñadores
Un LLM es un modelo de lenguaje entrenado con enormes cantidades de texto para predecir el siguiente token. Cómo funciona y qué implica para quien diseña.
¿Qué es un LLM, en una frase?
Un LLM es un sistema que, dado un texto, calcula la probabilidad de cada posible siguiente pieza de texto y elige una. Luego repite el proceso con el texto ya ampliado. No busca la respuesta en una base de datos ni consulta una enciclopedia interna: la genera paso a paso.
Esas piezas se llaman tokens: a veces una palabra entera, a veces un trozo de palabra o un signo de puntuación. Los modelos trabajan con números, así que primero el texto se convierte en tokens (más en tokens).
Si te suena a un autocompletado muy avanzado, vas bien. La diferencia es la escala: el modelo se entrena con muchísimo más texto del que una persona leería en varias vidas y tiene miles de millones de parámetros, los valores numéricos que se ajustan durante el entrenamiento. IBM indica que los modelos grandes pueden llegar a billones.
¿Cómo aprende un LLM?
El entrenamiento tiene dos etapas principales.
- Preentrenamiento. El modelo lee texto y aprende a predecir el siguiente token. Cada vez que falla, sus parámetros se ajustan un poco. Con suficientes ejemplos, absorbe gramática, datos del mundo, estilos y patrones de razonamiento. Como no necesita que alguien etiquete los datos, se llama aprendizaje autosupervisado.
- Ajuste posterior. Un modelo recién preentrenado es sobre todo un predictor de texto. Para que siga instrucciones y se comporte como asistente se le ajusta con técnicas como el instruction tuning (aprender de ejemplos de instrucciones con buenas respuestas) y el aprendizaje por refuerzo con retroalimentación humana (RLHF), en el que personas ordenan respuestas y el modelo aprende a preferir las mejor valoradas.
Un dato que ayuda a no obsesionarse con el tamaño: en el artículo que presentó InstructGPT (OpenAI, 2022), las respuestas de un modelo de 1.300 millones de parámetros, ajustado con retroalimentación humana, se preferían a las de GPT-3, con 175.000 millones. Más parámetros no garantizan una mejor experiencia; ver modelos pequeños vs. grandes.
La arquitectura que lo hizo posible se llama transformer y se presentó en 2017 en el artículo “Attention Is All You Need”. Su mecanismo clave, la atención, permite que el modelo pese cuánto influye cada parte del texto en la interpretación de las demás. El ejemplo clásico de Google, traducido: en “El animal no cruzó la calle porque estaba demasiado cansado”, la atención ayuda a relacionar “cansado” con “animal” y no con “calle”. Si la frase terminara en “demasiado ancha”, la relación cambiaría hacia “calle”.
¿Cómo genera una respuesta?
Cada vez que el modelo escribe, hace tres cosas:
- Lee todo el texto que tiene delante (tu mensaje, las instrucciones del producto, el historial).
- Calcula una probabilidad para cada posible token siguiente.
- Elige uno, lo añade al texto y vuelve al paso 1.
Elegir “el más probable” siempre daría textos repetitivos, así que el producto puede dejar algo de azar en la elección. Los ajustes que controlan ese azar se explican en temperatura y top-p.
Dos detalles que afectan al diseño. Primero, el modelo solo ve lo que cabe en su ventana de contexto; lo que queda fuera no existe para él. Segundo, no recuerda nada por sí mismo. La documentación de la API de Claude lo dice así: la API de mensajes no guarda estado, y por eso siempre envías el historial completo de la conversación. La “memoria” de un chat es el producto reenviando ese historial en cada turno.
¿Qué hace bien un LLM y qué hace mal?
| Tarea | Qué esperar | Qué hacer en el diseño |
|---|---|---|
| Resumir, reescribir, cambiar el tono | Suele salir bien | Dejar que la persona edite el resultado |
| Clasificar o extraer datos de texto libre | Bien, con casos dudosos | Mostrar la categoría elegida y permitir corregirla |
| Redactar borradores y variantes | Suele salir bien | Presentarlo como borrador |
| Datos exactos (cifras, fechas, citas) | Riesgo de error | Mostrar la fuente o conectar con datos reales |
| Cálculos y reglas de negocio | Riesgo de error | Usar código determinista |
| Hechos posteriores a su entrenamiento | No los conoce | Aclarar la fecha de corte o darle los datos |
Cuando un LLM afirma algo falso con aplomo, se habla de alucinación: según Wikipedia, afirma hechos que no parecen justificados por sus datos de entrenamiento. Es una consecuencia de cómo funciona, no un fallo aislado; mira alucinaciones.
¿Por qué le importa a un diseñador?
Porque el LLM decide la experiencia aunque no lo veas. Estas son las consecuencias prácticas:
- Genera, no recupera. Una respuesta puede sonar segura y estar mal. Tu interfaz necesita una forma de mostrar fuentes o de dejar que la persona verifique.
- Opera sobre tokens. Lo que cabe en una conversación se mide en tokens. Si el contenido es largo, el modelo puede perder partes.
- Responde con latencia. Como escribe token a token, la velocidad percibida depende de cómo muestres el texto mientras se genera.
- No sabe lo que pasó después de su entrenamiento. Tiene una fecha de corte y no ve tus datos a menos que se los des.
- Puede responder distinto a la misma pregunta. Por el azar de la elección, no esperes dos respuestas idénticas.
¿Cuándo NO conviene usar un LLM?
Un LLM no es la herramienta correcta cuando necesitas un resultado exacto y repetible: un cálculo, una consulta a una base de datos, una validación de formulario o una regla de negocio. Para eso conviene código determinista, y dejar al modelo las partes de lenguaje, clasificación difusa o síntesis. Si mezclas ambas cosas sin separarlas, el error será difícil de detectar.
Ejemplo
Ejemplo ilustrativo: un equipo de producto quiere que una app de notas resuma reuniones. Antes de diseñar el botón “Resumir”, la diseñadora hace tres preguntas.
- ¿Qué pasa si la transcripción tiene 40 páginas? Puede no caber en la ventana de contexto.
- ¿Qué pasa si el modelo inventa un acuerdo que nadie tomó? Genera texto plausible, no verificado.
- ¿Cómo ve la persona de dónde salió cada frase del resumen? Un modelo que predice texto no tiene una noción interna de “esto está en la transcripción”.
Las tres salen directamente de cómo funciona un LLM. La solución de diseño: cada frase del resumen enlaza con el fragmento original de la transcripción, y los acuerdos aparecen marcados como “por confirmar” hasta que alguien los acepte.
Errores comunes
- Tratar al LLM como una base de datos. Recuerda que genera; no siempre recupera.
- Suponer que una respuesta fluida es una respuesta correcta.
- Creer que más parámetros significan siempre mejor respuesta para tu caso.
- Pensar que el modelo recuerda conversaciones anteriores. Solo ve lo que el producto le reenvía.
- Usar un LLM para tareas que el código resuelve con exactitud, como sumar una factura.
- Confundir el modelo con el producto: lo que hace “ChatGPT” o “Claude” incluye herramientas y reglas que no vienen del modelo solo.
Fuentes
- Large language model (Wikipedia): definición, preentrenamiento, ajuste posterior, tokenización y alucinaciones.
- What are large language models? (IBM): parámetros, aprendizaje autosupervisado, RLHF y transformers.
- LLMs: What’s a large language model? (Google, Machine Learning Crash Course): transformers, autoatención y el ejemplo del animal y la calle.
- Attention Is All You Need (Vaswani et al., 2017): el artículo que presentó el transformer.
- Training language models to follow instructions with human feedback (Ouyang et al., 2022): RLHF y la comparación entre 1.300 millones y 175.000 millones de parámetros.
- Using the Messages API (documentación de Claude): la API no guarda estado y se envía el historial completo.