Build vs. buy en IA: ¿modelo propio o API?

Mon, 01 Jan 0001 00:00:00 +0000

info Definición Rápida

Build vs. buy en IA es la decisión de usar un modelo a través de una API de terceros (buy) o de alojar y operar un modelo abierto en infraestructura propia o rentada (build). La respuesta correcta depende del volumen de tokens, de los datos que maneja el producto y de la capacidad técnica del equipo, no de cuál opción suena más seria.

¿Qué significa build y qué significa buy?

En “buy” pagas por uso a un proveedor que mantiene el modelo, la infraestructura y las actualizaciones. Tu costo crece con cada llamada. En “build” alojas un modelo abierto, lo sirves con un motor de inferencia y pagas por GPUs, personal y operación. Hay un punto intermedio: usar un modelo abierto alojado por un proveedor de inferencia, que te cobra por token sin que operes la infraestructura. Vale la pena tenerlo en mente, porque muchas comparaciones lo omiten. Para entender qué cambia entre modelos cerrados y abiertos, revisa [[modelos-abiertos-vs-cerrados|modelos abiertos vs. cerrados]].

RAG (Retrieval-Augmented Generation): respuestas con tus propios documentos

Mon, 01 Jan 0001 00:00:00 +0000

info Definición Rápida

RAG (Retrieval-Augmented Generation, generación aumentada por recuperación) es una técnica en la que el sistema busca fragmentos relevantes en una colección de documentos y los incluye en la petición al modelo, para que la respuesta se base en esos textos y no solo en lo que el modelo aprendió durante su entrenamiento.

¿Qué es RAG?

RAG combina dos piezas. Un recuperador busca en tu base de documentos los fragmentos más relacionados con la pregunta, normalmente comparando [[embeddings|embeddings]]. Un generador, el [[que-es-un-llm|LLM]], escribe la respuesta usando la pregunta y esos fragmentos como contexto.

Arquitectura on Fernando Ruiz

Build vs. buy en IA: ¿modelo propio o API?

¿Qué significa build y qué significa buy?

RAG (Retrieval-Augmented Generation): respuestas con tus propios documentos

¿Qué es RAG?