IA como tecnología eléctrica
Qué implica la IA en términos de cómputo y energía, por qué la demanda puede crecer aunque mejore el hardware, y cuáles son los cuellos de botella reales.
Los enlaces con ?t= abren el vídeo en un segundo concreto.
Resumen del vídeo
Las ideas que debes retener
1. Qué implica "compute" en la práctica
El proceso de desarrollar y desplegar modelos de IA se divide en dos fases con perfiles energéticos muy distintos.
Entrenamiento
Entrenar un modelo grande requiere procesar cantidades masivas de datos durante semanas o meses usando miles de aceleradores especializados (GPUs o TPUs) en paralelo. El consumo energético…
Inferencia
La inferencia es el proceso de usar el modelo para responder preguntas. Cada consulta, cada generación de imagen, cada análisis de documento consume energía. A diferencia del…
Siguiente paso
