Prompt injection
Cómo una orden escondida en un documento puede entrar en un sistema con IA y qué controles separan la lectura de una acción.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Resumen del vídeo
Las ideas que debes retener
1. El problema empieza cuando un documento llega al modelo
El error más habitual es tratar el prompt injection como si fuera una versión exótica de "escribir mejor el system prompt". Eso confunde el síntoma con la causa.
2. La orden puede aparecer en una búsqueda de documentos
En un chat sin herramientas ni acceso a datos privilegiados, el efecto de una inyección directa puede quedar limitado a la propia interacción. Esa limitación no es universal: si el mismo…
3. Filtrar palabras no separa los datos de las instrucciones
Cuando aparece el prompt injection, la reacción natural es añadir filtros: listas de palabras prohibidas, detectores de instrucciones peligrosas, reescritura de consultas, perplejidad,…
Momentos clave
Ve directamente a una sección
Siguiente paso
