Controles de producción
Cómo mínimo privilegio, autorización independiente, kill paths, observabilidad y gates ligados a evidencia limitan el daño cuando el modelo falla.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Las ideas que debes retener
Separar la lectura de documentos y las acciones
El patrón dual-LLM propone una frontera clara. Un modelo en cuarentena puede leer contenido no confiable y extraer datos. No tiene acceso directo a herramientas ni a información sensible.…
Dar a cada herramienta solo los permisos que necesita
OWASP sitúa el uso indebido de herramientas, el abuso de privilegios y la ejecución inesperada entre los principales riesgos de aplicaciones agénticas. La implicación práctica es sencilla:…
MCP no elimina el problema: estandariza una nueva frontera de confianza
MCP simplifica la conexión entre aplicaciones con LLMs y herramientas externas, pero la estandarización no convierte automáticamente en confiable al servidor, sus descripciones de…
