Cómo se construye una respuesta generativa
La cercanía depende del modelo y la tarea; no garantiza que dos afirmaciones sean equivalentes.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Las ideas que debes retener
1. Embeddings: Traduciendo el texto a números
Los modelos de ML necesitan números como entrada, y el texto no lo es de forma natural.
2. El Transformer: La arquitectura que lo cambia todo
Antes del Transformer (2017), los modelos procesaban el texto en orden, token a token, con dos consecuencias prácticas:
3. Leyes de escala: cuando la cantidad se convierte en calidad
El entrenamiento usa aprendizaje auto-supervisado: sin etiquetas y con una señal simple (predecir el siguiente token), el modelo aprende del volumen bruto de texto, y ese volumen produce…
Ve directamente a una sección
Leer transcripción revisada
Vídeo sin narración. Esta transcripción reproduce el texto visual del vídeo; no atribuye una voz inexistente.
La representación permite comparar
Un embedding representa una entrada mediante números aprendidos.
En este plano ilustrativo, dos vectores con direcciones próximas tienen alta similitud coseno.
La cercanía depende del modelo y la tarea; no garantiza que dos afirmaciones sean equivalentes.
La misma palabra recibe otro contexto
Banco aparece junto a sentarse en una frase y junto a préstamo en otra.
La atención combina información de otras posiciones mediante pesos dependientes del contexto.
Los pesos mostrados son ilustrativos: no constituyen una explicación completa del razonamiento.
Una distribución antes del siguiente token
Para una continuación inventada, tres tokens tienen probabilidades de sesenta, treinta y diez por ciento.
Muestrear puede elegir tokens distintos aun partiendo de esa misma distribución.
El token elegido se incorpora al contexto y cambia el siguiente paso.
Dar ejemplos no actualiza los pesos
El prompt muestra dos ejemplos de cómo convertir un nombre a una etiqueta.
El modelo aplica el patrón a un tercer nombre durante esta llamada.
Aquí cambió el contexto, no los pesos: no es una sesión de fine-tuning.
Recuperar añade evidencia, no certeza
La pregunta selecciona un fragmento relevante del documento de devoluciones.
Ese fragmento entra en el contexto junto a la pregunta.
La respuesta debe respaldar su afirmación con ese fragmento; recuperar no impide todos los errores.
Proponer una acción no es ejecutarla
El modelo propone consultar el estado del pedido.
El sistema valida el permiso antes de ejecutar la herramienta.
La observación regresa al modelo, pero cada nuevo paso conserva límites y controles.
