Escenario ilustrativo. Un lunes de campaña, el agente de atención que funciona de maravilla el resto del año recibe en una hora lo que normalmente recibe en un día. Los primeros mensajes salen bien. A los veinte minutos empiezan los reintentos, la cola crece, el proveedor del modelo devuelve errores de límite y la bandeja de las personas, que debían recoger lo que el agente no resolviera, se llena de golpe. Nadie ha roto nada: el sistema simplemente nunca había ensayado ese día.
La tesis en una línea: un agente dimensionado para el día medio no falla en el pico por ser malo, falla porque nadie decidió antes qué se degrada primero. El pico no se sobrevive con más potencia; se sobrevive con un orden de caída pactado de antemano.
¿Por qué un agente de IA falla en los picos de demanda?
Porque los picos de demanda no estresan lo que probaste (la calidad de la respuesta) sino lo que diste por hecho (todo lo que la rodea). Cuatro puntos de rotura, casi siempre los mismos:
- Límites de tasa y cuota. El proveedor del modelo limita cuántas peticiones y cuántos tokens por minuto aceptas. Si varios agentes comparten clave, el pico de uno se come el cupo de los demás. Los límites reales dependen de tu proveedor y de tu plan: míralos antes, no durante.
- Colas y reintentos. Un reintento sin freno convierte un fallo puntual en una avalancha: cada petición fallida vuelve a entrar y empeora el atasco que la hizo fallar.
- Coste. Con más volumen, conversaciones más largas y más herramientas llamadas, el gasto crece más rápido que el tráfico. Sin un tope, te enteras a fin de mes, cuando ya no hay nada que decidir.
- Humanos saturados. El agente escala los casos difíciles a personas; en el pico escala más, y todos a la vez. Si la bandeja humana no aguanta, el cuello de botella no desaparece: se traslada.
Fíjate en lo que no aparece en la lista: el modelo. Casi nunca es el modelo. Es todo lo que cuelga de él, y eso se puede ensayar.
¿Qué ensayar antes del pico?
Ensayar es hacer, con tiempo, la versión pequeña del desastre. No hace falta un simulacro enorme; hace falta uno honesto. Una secuencia mínima:
- Mide tu día medio y fija el pico esperado con datos reales de las últimas campañas o cierres, no con intuición. Si no tienes histórico, parte de tus peores horas conocidas.
- Sube la carga en un entorno de pruebas y observa dónde aparece el primer límite: tasa, cola, herramienta externa o persona. Ese es tu cuello de botella real, no el que suponías.
- Prueba el fallo, no solo la carga. Corta a propósito la herramienta externa, simula el error de límite del proveedor y mira qué hace el agente: si inventa, se calla o reintenta sin fin, ya sabes qué arreglar. Las pruebas para cambiar una automatización sin romperla sirven también para esto.
- Pon topes de gasto y alertas por sistema, con aviso antes del tope y no después, y una persona con nombre que lo reciba durante el pico.
- Ensaya el relevo humano. Cuántos casos por hora absorbe quien está de guardia y qué pasa con el resto. Es lo que casi nadie prueba y lo que más se nota; el diseño de humano en el bucle decide si esa persona es un freno o una red.
Y mide mientras ensayas: sin detección de fallos en las automatizaciones, un pico degradado puede parecer un pico tranquilo.
¿Qué degradar a propósito para no caerse?
Degradar con elegancia es decidir, antes de que haga falta, qué deja de hacer el agente primero. Es la lógica de los niveles de autonomía de un agente aplicada al tiempo: en el pico, el agente baja un peldaño en vez de caerse del edificio.
| Qué se rompe | Degradación posible | Qué proteges |
|---|---|---|
| Cuota del proveedor agotada | Pasar a un modelo más ligero para las consultas simples y reservar el potente para las críticas | Que los casos importantes sigan respondiendo |
| Cola creciente | Acuse inmediato con un plazo realista y proceso en segundo plano | La confianza del cliente: sabe que su caso existe |
| Coste fuera de tope | Limitar herramientas caras y longitud de conversación; derivar el resto a un formulario | El presupuesto, sin apagar el servicio |
| Humanos saturados | Clasificar por urgencia y diferir lo no urgente con fecha, en vez de escalarlo todo | A las personas y a los casos que no pueden esperar |
Nada de esto es glamuroso, y por eso funciona: son decisiones de operación, y se toman con calma un martes de octubre, no a las nueve de la mañana del Black Friday. Si prefieres que lo sostenga quien lo opera, es justo lo que cubren garantizar la disponibilidad de la IA y monitorizar la IA en producción.
¿Quién decide qué se apaga durante el pico?
Una degradación pactada solo sirve si alguien tiene autoridad para activarla en el momento. En mitad de un pico no hay tiempo para convocar un comité, así que la decisión se toma antes: se escribe una página con tres cosas.
- El disparador. La señal concreta que activa cada degradación: la cola supera cierto tamaño, el gasto cruza cierto porcentaje del tope, el proveedor devuelve errores de límite durante unos minutos seguidos. Sin disparador medible, cada decisión se convierte en un debate.
- El responsable. Una persona con nombre, y un suplente, que puede activar la degradación sin pedir permiso a nadie. La autoridad delegada de antemano es lo que convierte un plan en un interruptor.
- El camino de vuelta. Cómo y cuándo se restaura el comportamiento normal, y quién revisa lo que quedó diferido durante el pico. Una degradación que nadie desactiva se convierte en el nuevo estándar sin que nadie lo decida.
Con esa página, el pico deja de ser una improvisación a las nueve de la mañana y pasa a ser un procedimiento. Y lo aprendido ese día se anota para la próxima: qué disparó cada degradación, cuánto duró y qué se habría hecho distinto.
¿Cuándo no hace falta preparar el pico?
Cuando el pico es predecible y pequeño, cuando el agente no está en el camino crítico (si cae, la gente espera, no se pierde un pedido) o cuando caerse un rato cuesta menos que prepararlo. Un agente interno de consulta que se usa más los lunes no necesita simulacro; uno que atiende pedidos durante una campaña, sí. Preparar de más también es teatro.
La frase para llevarte: no dimensiones para el día medio ni para el día soñado; decide en qué orden se cae el día malo, y ensáyalo.
Nota: este artículo no usa cifras de terceros. Los límites de tasa y los precios dependen del proveedor y del plan, y cambian; compruébalos en la documentación de tu proveedor antes de dimensionar. El escenario de apertura es ilustrativo.