Datos, permisos y consecuencias
Leer correctamente una instrucción no le concede autoridad para cambiar los permisos.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Las ideas que debes retener
1. Prompt injection visual
El prompt injection es un ataque donde el atacante introduce instrucciones para el modelo dentro del contenido que el modelo procesa como datos.
2. Fugas de sistema y manipulación de herramientas
Cuando un sistema multimodal tiene acceso a herramientas (llamadas a APIs, acceso a bases de datos, capacidad de enviar mensajes), el prompt injection visual puede usarse no solo para…
3. Privacidad: imágenes, documentos y metadatos
Los sistemas multimodales que procesan imágenes y documentos tienen acceso a categorías de información personal que los sistemas de texto puro generalmente no manejan, y el riesgo no viene…
Ve directamente a una sección
Leer transcripción revisada
Vídeo sin narración. Esta transcripción reproduce el texto visual del vídeo; no atribuye una voz inexistente.
El texto de una imagen sigue siendo dato externo
Un documento visual contiene una frase que intenta ordenar una acción ajena a la tarea.
El sistema registra su origen como contenido recibido, no como política de la aplicación.
Leer correctamente una instrucción no le concede autoridad para cambiar los permisos.
Validar el permiso debe preceder al efecto
El modelo propone enviar un registro a un destino externo.
El controlador comprueba el permiso y deniega esa salida antes de ejecutarla.
Registrar el intento después del envío no habría evitado la divulgación.
Tapar una región no elimina todos los datos
Una imagen contiene un nombre visible y metadatos de localización separados.
Ocultar los píxeles del nombre no modifica automáticamente esos metadatos.
El tratamiento debe revisar cada canal; el ejemplo no contiene ningún dato personal real.
Guardar evidencia falsa puede repetir el error
Una copia alterada de un documento afirma una cantidad distinta del original.
Si entra en el índice, consultas futuras pueden recuperar esa misma copia.
Versionar, validar y retirar la copia afecta a recuperación; no equivale a reentrenar los pesos del modelo.
Una propuesta aún puede detenerse
La percepción produce una propuesta de modificar el registro A.
Antes de confirmar, mostramos el objeto, el cambio y el alcance a quien debe autorizar.
Sin autorización no se aplica el cambio; una confirmación válida tampoco garantiza que la percepción fuera correcta.
Un promedio puede ocultar un grupo de fallos
En el ejemplo, diecinueve de veinte imágenes claras se resuelven bien.
Con poca luz, sólo doce de veinte aciertan, aunque el promedio conjunto parezca mejor.
Conserva condiciones y tamaños de muestra; no atribuyas este resultado inventado a un modelo real.
