Espacio latente
Por qué importa
La mayor parte de la IA moderna hace su trabajo real en el espacio latente. Generadores de imágenes como Stable Diffusion y FLUX generan un latente pequeño y solo lo decodifican a píxeles al final, lo que los hace lo bastante rápidos para correr en una laptop. Los sistemas RAG convierten el texto en embeddings y buscan por distancia entre puntos. La investigación de interpretabilidad intenta leer significado en los estados latentes internos de un modelo de lenguaje.
Entender el espacio latente también explica muchos comportamientos. Cuando un modelo de imagen confunde dos conceptos, suele ser porque están cerca en su espacio. Cuando la búsqueda semántica devuelve algo extrañamente relacionado, es porque el modelo de embeddings lo colocó cerca por razones que no resultan evidentes para una persona.
En profundidad
«Latente» significa oculto. Un espacio latente es el conjunto de números internos que un modelo usa para describir sus entradas, en lugar de las entradas en bruto. La imagen de un gato puede tener 3 millones de valores de píxel, pero dentro de un modelo se convierte en unos pocos miles de números que capturan lo «gatuno», la pose, la iluminación y el estilo. Cada entrada se vuelve un punto en ese espacio, y el modelo aprende a ordenarlo de modo que las cosas parecidas queden cerca.
El espacio latente nunca se ve directamente. Se ve lo que hace posible: búsquedas que encuentran documentos «parecidos», generadores de imágenes que mezclan estilos y modelos que entienden que «rey» y «reina» están relacionados.
La geometría tiene significado
En un espacio latente bien entrenado, las distancias y las direcciones significan algo. Los puntos cercanos son parecidos. Las direcciones pueden codificar atributos: el famoso ejemplo de los embeddings de palabras es que el vector que va de «hombre» a «mujer» es más o menos el mismo que va de «rey» a «reina». En los modelos de imagen, moverse en una dirección puede añadir una sonrisa o cambiar la hora del día. Por eso funcionan técnicas como la interpolación: avanza en línea recta entre dos latentes y obtienes una transición suave entre dos imágenes.
Espacios latentes que te vas a encontrar
- Espacios de embeddings de modelos de embeddings de texto o imagen, usados para búsqueda, clustering y recomendaciones. Aquí los puntos suelen compararse con la similitud coseno.
- Latentes de VAE en generadores de imagen y video: una cuadrícula comprimida que todavía se parece espacialmente a una imagen diminuta, normalmente 8 veces más pequeña por lado.
- Estados ocultos dentro de los LLM: el vector de cada capa para cada token. Son enormes (miles de dimensiones) y no están pensados para humanos, pero contienen la comprensión de trabajo que el modelo tiene del texto.
No todos los espacios son suaves
Un espacio latente solo es útil si está bien organizado. Un autoencoder simple puede dejar huecos donde los puntos aleatorios se decodifican en sinsentidos. Los autoencoders variacionales y el entrenamiento por difusión empujan al espacio a ser continuo, de modo que muestrear en cualquier parte dé algo plausible. Los espacios de embeddings de modelos distintos tampoco son compatibles: los vectores de un modelo no significan nada para otro, y por eso hay que volver a generar los embeddings de todo el corpus cuando cambias de modelo.
Las dimensiones altas son extrañas
Los espacios latentes suelen tener cientos o miles de dimensiones, y la intuición de 2D o 3D deja de servir. Casi todos los vectores aleatorios son prácticamente perpendiculares entre sí, y los modelos lo aprovechan para meter muchos más conceptos que dimensiones tienen (ver Superposición). Visualizaciones como t-SNE o UMAP aplastan estos espacios a 2D para hacer un dibujo, pero siempre los distorsionan, así que trata esos gráficos como bocetos y no como mapas.