Autoencoder
Por qué importa
Si has usado Stable Diffusion, FLUX o la mayoría de los generadores de video, has usado un VAE. Estos modelos no generan píxeles directamente, lo que sería demasiado costoso. Generan en el espacio latente comprimido del VAE (a menudo 8 veces más pequeño en cada dirección, es decir, 64 veces menos posiciones), y el decoder del VAE convierte el resultado en una imagen completa al final. El VAE es la razón por la que una GPU de consumo puede generar una imagen de 1024×1024 en segundos, y también explica algunos defectos conocidos: el texto pequeño ilegible, las caras borrosas a distancia y los cambios de color suelen venir del VAE y no del modelo de difusión.
Los autoencoders también aparecen en la detección de anomalías (lo que el modelo no logra reconstruir bien probablemente es inusual), en la eliminación de ruido y, más recientemente, en la investigación de interpretabilidad mediante autoencoders dispersos.
En profundidad
Un autoencoder tiene dos mitades. El encoder toma una entrada, por ejemplo una imagen, y la comprime en un conjunto de números mucho más pequeño. El decoder toma ese código comprimido e intenta reconstruir el original. La red se entrena con un objetivo sencillo: que la salida se parezca lo más posible a la entrada. Como el código del medio es pequeño, la red no puede limitarse a copiar la entrada. Tiene que aprender qué es lo que de verdad importa en los datos.
Un autoencoder variacional (VAE) añade un giro: en lugar de asignar cada entrada a un único punto, el encoder produce una pequeña distribución de probabilidad, y el entrenamiento empuja esas distribuciones a formar un espacio suave y bien organizado. Así se obtiene un espacio del que se puede muestrear y por el que uno se puede mover, que es lo que necesitan los modelos generativos.
El cuello de botella es la clave
Un autoencoder simple aprende una representación comprimida sin ninguna etiqueta, lo que lo convierte en un ejemplo clásico de aprendizaje autosupervisado. Cuanto más estrecho es el cuello de botella, más tiene que descartar el ruido y quedarse con la estructura. Si es demasiado pequeño, las reconstrucciones salen borrosas; si es demasiado grande, aprende poco más que a copiar. El punto justo depende del uso: los VAE de generación de imágenes buscan reconstrucciones casi perfectas, mientras que un modelo de compresión para búsqueda puede aceptar más pérdida.
Qué aporta lo «variacional»
El espacio latente de un autoencoder simple puede estar lleno de huecos: toma un punto al azar y el decoder produce basura, porque nada cayó ahí durante el entrenamiento. Un VAE lo corrige añadiendo un segundo término a la función de pérdida (una divergencia KL) que acerca cada distribución codificada a una forma estándar sencilla. El resultado es un espacio continuo en el que puntos cercanos se decodifican en salidas parecidas y las muestras aleatorias dan resultados plausibles. La contrapartida es que los VAE clásicos, por sí solos, tienden a producir imágenes algo borrosas, y por eso hoy se usan sobre todo como etapa de compresión de los modelos de difusión y no como generadores.
Los VAE dentro de los modelos de imagen y video
En la difusión latente, el proceso es: codificar las imágenes de entrenamiento con el VAE, entrenar el modelo de difusión para eliminar ruido en ese espacio latente y, al final, decodificar el latente a píxeles. Mejorar solo el VAE puede dar resultados notablemente más nítidos. Los modelos más nuevos pasaron de 4 canales latentes (Stable Diffusion 1.x y SDXL) a 16 canales (Stable Diffusion 3, FLUX), lo que conserva detalles mucho más finos, como el texto y las manos. Los modelos de video usan VAE 3D que también comprimen en el tiempo, para que unos segundos de video quepan en memoria.
Autoencoders dispersos
Una variante emparentada, el autoencoder disperso (sparse autoencoder), se entrena con las activaciones internas de un modelo de lenguaje en lugar de con imágenes. Al forzar que la mayor parte de su código sea cero, cada unidad tiende a representar un concepto reconocible, lo que lo ha convertido en una herramienta clave para mirar dentro de los modelos.