Riesgos de seguridad en sistemas multimodales
Prompt injection visual, privacidad, fugas de contexto y manipulación de herramientas cuando un sistema multimodal puede observar y actuar.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Resumen del vídeo
Las ideas que debes retener
1. Prompt injection visual
El prompt injection es un ataque donde el atacante introduce instrucciones para el modelo dentro del contenido que el modelo procesa como datos.
2. Fugas de sistema y manipulación de herramientas
Cuando un sistema multimodal tiene acceso a herramientas (llamadas a APIs, acceso a bases de datos, capacidad de enviar mensajes), el prompt injection visual puede usarse no solo para…
3. Privacidad: imágenes, documentos y metadatos
Los sistemas multimodales que procesan imágenes y documentos tienen acceso a categorías de información personal que los sistemas de texto puro generalmente no manejan, y el riesgo no viene…
Siguiente paso
