Envenenamiento
Cómo una entrada no confiable puede convertirse en memoria persistente, reaparecer en una decisión futura y sobrevivir a un borrado incompleto mediante estado derivado.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Resumen del vídeo
Las ideas que debes retener
Guardar un dato no lo convierte en verdad
Guardar una salida en una base de datos no la vuelve confiable. La memoria de un agente debe tener origen, fecha, ámbito, permisos y una política de caducidad. Sin esas propiedades el…
La memoria persistente ya es una superficie de ataque medible
La evidencia de 2026 permite analizar esta superficie de forma mucho más directa que los primeros trabajos sobre backdoors en pesos del modelo.
Un comportamiento peligroso también puede quedar oculto en el modelo
El estudio Sleeper Agents construyó modelos de prueba que escribían código seguro cuando el prompt indicaba 2023 y código vulnerable cuando indicaba 2024. La demostración no describe un…
Momentos clave
Ve directamente a una sección
Siguiente paso
