Decidir bajo restricciones
La selección optimiza dentro del conjunto permitido. Una alternativa barata pero incompatible no es una opción válida.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Las ideas que debes retener
La política empieza por lo que no puede elegir
Antes de optimizar calidad, coste o latencia, una petición necesita un conjunto de candidatos elegibles.
Model routing elige antes del primer intento
Con E(x) ya filtrado, el router puede elegir el candidato que maximiza una utilidad esperada. Una forma conceptual —no un estándar— es:
Routing estático, reglas y routers aprendidos resuelven problemas distintos
Ve directamente a una sección
Leer transcripción revisada
Vídeo sin narración. Esta transcripción reproduce el texto visual del vídeo; no atribuye una voz inexistente.
Primero lo permitido
El router tiene tres modelos candidatos. Uno no cumple el contrato de herramientas requerido.
Ese modelo queda fuera antes de comparar precio o latencia.
La selección optimiza dentro del conjunto permitido. Una alternativa barata pero incompatible no es una opción válida.
Elegir no es recuperarse
Routing elige el primer modelo antes de ejecutar la petición.
Fallback empieza después de un fallo o una condición de degradación definida.
La traza debe distinguir decisión, intento y recuperación. No atribuyas todos los resultados al primer modelo.
El deadline no se reinicia
El usuario dispone de mil milisegundos. El primer intento gasta cuatrocientos y el backoff otros cien.
Quedan quinientos para recuperar, incluidos red, procesamiento y entrega.
Un segundo intento previsto de seiscientos no cabe. Cambiar de modelo no crea un nuevo presupuesto.
Lo visible ya cuenta
El usuario ya ha recibido parte de una respuesta cuando falla el stream.
Concatenar otra respuesta desde cero puede duplicar o contradecir lo que vio.
El producto necesita una política explícita de interrupción o reemplazo. No es un retry transparente.
Dos ahorros diferentes
Response caching devuelve una respuesta validada sin realizar una nueva inferencia completa.
Prefix caching reutiliza parte del estado de entrada, pero todavía necesita generar la salida.
Comparar sus hits como si fueran el mismo ahorro mezcla fronteras de trabajo distintas.
Parecido no es equivalente
Dos preguntas casi idénticas consultan revisiones distintas de una política.
La cercanía semántica puede recuperar la respuesta antigua aunque el plazo vigente haya cambiado.
La caché debe respetar versión, permisos y condiciones de verdad. Un vecino cercano también puede estar equivocado.
