# Niveles de autonomía de un agente de IA: cuánto deja hacer la persona > Los niveles de autonomía describen cuánto decide un agente sin pedir permiso. Los cinco niveles del paper de Feng, McDonald y Zhang y cómo elegir uno. *Tags: ia, agentes, diseno-de-interaccion, confianza* --- > [!info] Definición Rápida > Los **niveles de autonomía** de un agente de IA son una escala que describe cuánto decide el agente por sí mismo y cuánto interviene la persona. Feng, McDonald y Zhang proponen cinco niveles, de menor a mayor autonomía, definidos por el rol que asume el usuario frente al agente. ## ¿De dónde viene la escala? El paper "Levels of Autonomy for AI Agents", de Kevin Feng, David W. McDonald y Amy X. Zhang, se publicó en arXiv en junio de 2025 y se revisó en julio. Lo publicó el Knight First Amendment Institute como parte de su serie "AI and Democratic Freedoms". Su aporte no es técnico: propone una forma de hablar de autonomía que no depende del modelo, sino de la relación entre la persona y el agente. Esa elección tiene una consecuencia útil para diseño. Si la autonomía se define por el rol del usuario, se puede diseñar para cada rol, en lugar de preguntar solo "qué tan listo está el modelo". ## ¿Cuáles son los cinco niveles? En orden de menor a mayor autonomía del agente: | Nivel | Rol de la persona | Qué hace el agente | |---|---|---| | Operator | Dirige y decide | El agente ayuda a demanda, cuando la persona se lo pide | | Collaborator | Colabora | Planifica, delega y ejecuta junto con la persona, con comunicación frecuente | | Consultant | Orienta | Lidera la mayoría de las tareas; la persona aporta preferencias y pide cambios de forma indirecta | | Approver | Aprueba | Trabaja solo y pide intervención ante un bloqueo, una credencial que no tiene o una acción consecuente | | Observer | Supervisa | Planifica y ejecuta todo; la persona solo ve los registros de actividad y puede apagarlo, sin cambiar su rumbo | El paper describe el nivel Operator como aquel en el que la persona dirige en todo momento y el agente da apoyo a demanda. El Observer es el de mayor autonomía: la persona puede ver los registros de actividad, pero no cambiar la trayectoria del agente; su único control es un interruptor de emergencia que detiene toda la actividad. ## ¿Qué cambia en el diseño de cada nivel? - **Operator y Collaborator:** la interfaz es de respuesta y de conversación. Importan la claridad de lo que el agente hizo y la facilidad para corregirlo. - **Consultant:** la persona da preferencias, no órdenes. La interfaz necesita una forma de expresar criterios que el agente recuerde, y de ver cómo se aplicaron. - **Approver:** el punto de decisión es el centro de la experiencia. Cada aprobación debe mostrar qué cambia, a qué afecta y qué se puede deshacer. Ese patrón se trabaja en [[aprobacion-de-acciones|aprobación de acciones]]. - **Observer:** el diseño es de supervisión. Importan el registro de actividad, las alertas y el botón de detener. Un error de diseño frecuente es poner interfaces de Observer en productos que todavía son de Operator. La persona recibe resultados que no entiende y no puede corregir. ## ¿Cómo se elige un nivel? Elige por el costo de equivocarse, no por la confianza que da la demo: 1. **Decide primero si necesitas un agente.** Si basta un [[agente-vs-asistente-vs-copiloto|asistente o un copiloto]], la pregunta de autonomía ni siquiera aplica. 2. **Clasifica cada acción por riesgo.** Leer un archivo y borrar una carpeta no son el mismo caso. 3. **Asigna aprobación a lo irreversible.** Lo que no se puede deshacer necesita una persona antes. 4. **Mide los errores.** Un nivel más alto solo se justifica si el agente se equivoca poco en esa tarea y los errores se detectan a tiempo. 5. **Revisa por tarea.** Un mismo agente puede operar en modo Approver para publicar y en modo Observer para revisar contraste. Anthropic recomienda empezar con la solución más simple y agregar autonomía solo cuando mejora el resultado. Eso aplica igual aquí. El papel de la persona en esos puntos de control se explora en [[human-in-the-loop|human-in-the-loop]]. ## ¿Cuándo NO conviene subir el nivel? - Cuando no hay forma de ver lo que el agente hizo. Sin registros, la autonomía es ciega. - Cuando la tarea afecta a terceros, como clientes o pacientes, y no hay un punto de revisión. - Cuando el equipo no sabe detener el agente. Antes de subir de nivel, hay que probar el botón de parar. ## Ejemplo Ejemplo ilustrativo: un equipo de diseño usa un agente para mantener su biblioteca de componentes. Al principio está en Approver: el agente propone cada cambio y una persona lo aprueba. Tras dos meses, el equipo comprueba que el agente acierta en los cambios de tokens de color, pero se equivoca en los de espaciado. Decide subir a Consultant solo para los colores, con reglas escritas, y mantener la aprobación para lo demás. El nivel no es único para toda la herramienta: se ajusta por tipo de tarea. ## ¿Qué números sirven para decidir? Antes de subir de nivel, mide tres cosas por tarea: cuántas acciones propone el agente y la persona rechaza, cuántas veces hubo que corregir un resultado ya aplicado y cuánto tardó la persona en detectar un error. Si el rechazo es alto, el agente todavía no está listo para más autonomía. Si los errores se detectan tarde, el nivel de supervisión es demasiado bajo para ese riesgo. Los números no reemplazan el criterio, pero dan una base concreta para discutir el nivel con el equipo. ## Errores comunes - Elegir el nivel por la impresión de la demo y no por el costo de los errores. - Subir de nivel sin registros de actividad. - Pensar que la autonomía es binaria. En la práctica se combina por tarea. - Diseñar la aprobación como un clic automático que nadie lee. - Olvidar que el nivel puede bajar cuando el agente falla. ## Fuentes - [Levels of Autonomy for AI Agents, Feng, McDonald y Zhang, arXiv](https://arxiv.org/abs/2506.12469) - [Levels of Autonomy for AI Agents, Knight First Amendment Institute](https://knightcolumbia.org/content/levels-of-autonomy-for-ai-agents-1) - [Building effective agents, Anthropic](https://www.anthropic.com/engineering/building-effective-agents) --- Source: https://www.fernandoux.com/es/wiki/ia/niveles-de-autonomia/