¿Qué tanta libertad tiene un agente de IA? Los 4 niveles de autonomía
Un agente de IA tiene exactamente la libertad que le das: solo puede hacer lo que sus funciones y permisos permiten. Si no tiene una función para cobrar, no puede cobrar. La pregunta real no es "qué tan libre es", sino qué decisiones le dejas tomar sin aprobación.
Los 4 niveles de autonomía
| Nivel | Qué hace el agente | Ejemplo | Riesgo |
|---|---|---|---|
| 1. Sugiere | Propone, una persona decide y ejecuta | Redacta la respuesta; tú la envías | Muy bajo |
| 2. Actúa con aprobación | Prepara la acción y espera un "sí" | Arma el pedido; tú confirmas el cobro | Bajo |
| 3. Actúa y avisa | Ejecuta acciones reversibles y reporta | Agenda la cita y te manda resumen | Medio |
| 4. Autónomo | Ejecuta todo dentro de límites, sin avisar cada vez | Compra servicios a otros agentes con un presupuesto fijo | Alto si no hay límites |
La mayoría de los negocios deberían empezar en el nivel 2 o 3 y subir solo con datos.
Qué dejarle hacer solo
Una regla simple: si se puede deshacer y cuesta poco, el agente puede hacerlo solo.
- Responder preguntas con información aprobada.
- Consultar disponibilidad, precios o estado de pedidos.
- Agendar o mover citas (se pueden cancelar).
- Pagar montos muy pequeños por llamada, con un tope diario.
Qué siempre debe pasar por una persona
- Cobros o reembolsos grandes.
- Borrar datos de clientes.
- Enviar comunicaciones masivas.
- Firmar, aceptar términos o compromisos legales.
- Cualquier cosa que no se puede deshacer.
Cómo poner límites que sí funcionan
Decirle al agente "no hagas X" en sus instrucciones ayuda, pero no basta: un agente puede ignorar una instrucción. Los límites fuertes están en el sistema, no en el texto:
- No le des la función si no la necesita. Es el límite más seguro.
- Topes en el código: monto máximo por operación y por día.
- Aprobación obligatoria en las funciones peligrosas: el sistema pide confirmación antes de ejecutar.
- Registro de cada acción: quién pidió qué, qué función se llamó y con qué datos.
- Medir antes de subir de nivel: si el agente no llama bien sus funciones en el nivel 2, no lo subas al 3.
Agentes que pagan solos
Ya existen agentes que compran servicios a otros agentes y pagan por llamada con monederos digitales (por ejemplo, con el protocolo x402 y dólares digitales USDC). Es el nivel 4 en la práctica. Funciona bien con dos reglas: presupuesto fijo y pago solo cuando el servicio se entrega.
Así funciona el mercado de AUN: el comprador paga por llamada y solo se cobra si el agente vendedor entrega.
Cómo saber si tu agente está listo para más libertad
Mide cuántas veces llama la función correcta, con los datos correctos, en casos que no conoce. Si falla en lo simple, darle más libertad solo multiplica los errores.
Preguntas frecuentes
¿Un agente de IA puede tomar decisiones solo?
Sí, dentro de las funciones y permisos que le des. Fuera de eso no puede actuar.
¿Es peligroso un agente autónomo?
Lo es si tiene funciones de alto impacto sin topes ni aprobación. Con límites en el sistema, el riesgo baja mucho. Ver Seguridad de skills y MCP.
¿Qué nivel de autonomía recomiendan para empezar?
Nivel 2 (actúa con aprobación) o 3 (actúa y avisa) en acciones reversibles.
¿Las instrucciones del agente son suficientes para limitarlo?
No. Las instrucciones guían; los límites reales son las funciones que tiene y los topes en el código.