Autoencoder
Por que isso importa
Se você já usou o Stable Diffusion, o FLUX ou a maioria dos geradores de vídeo, já usou um VAE. Esses modelos não geram pixels diretamente, o que sairia caro demais. Eles geram no espaço latente comprimido do VAE (muitas vezes 8 vezes menor em cada direção, ou seja, 64 vezes menos posições), e o decoder do VAE transforma o resultado em uma imagem completa no final. O VAE é o motivo de uma GPU doméstica conseguir gerar uma imagem de 1024×1024 em segundos, e também está por trás de alguns defeitos conhecidos: texto pequeno ilegível, rostos borrados à distância e desvios de cor costumam vir do VAE, e não do modelo de difusão em si.
Autoencoders também aparecem na detecção de anomalias (aquilo que o modelo não consegue reconstruir bem provavelmente é incomum), na remoção de ruído e, mais recentemente, na pesquisa de interpretabilidade, por meio dos autoencoders esparsos.
Em profundidade
Um autoencoder tem duas metades. O encoder recebe uma entrada, como uma imagem, e a comprime em um conjunto de números bem menor. O decoder recebe esse código comprimido e tenta reconstruir o original. A rede é treinada com um objetivo simples: fazer a saída ficar o mais parecida possível com a entrada. Como o código do meio é pequeno, a rede não consegue simplesmente copiar a entrada. Ela precisa aprender o que realmente importa nos dados.
Um autoencoder variacional (VAE) acrescenta um detalhe: em vez de mapear cada entrada para um único ponto, o encoder produz uma pequena distribuição de probabilidade, e o treinamento empurra essas distribuições para formar um espaço suave e bem organizado. Isso cria um espaço do qual dá para amostrar e pelo qual dá para se mover, que é o que os modelos generativos precisam.
O gargalo é o ponto central
Um autoencoder simples aprende uma representação comprimida sem nenhum rótulo, o que faz dele um exemplo clássico de aprendizado autossupervisionado. Quanto menor o gargalo, mais ele precisa jogar fora o ruído e ficar com a estrutura. Pequeno demais, e as reconstruções ficam borradas; grande demais, e ele aprende pouco além de copiar. O ponto ideal depende do uso: VAEs de geração de imagens buscam reconstruções quase perfeitas, enquanto um modelo de compressão para busca pode aceitar mais perda.
O que o "variacional" acrescenta
O espaço latente de um autoencoder simples pode estar cheio de buracos: escolha um ponto ao acaso e o decoder produz lixo, porque nada caiu ali durante o treinamento. Um VAE corrige isso acrescentando um segundo termo à função de perda (uma divergência KL) que puxa cada distribuição codificada na direção de uma forma padrão simples. O resultado é um espaço contínuo em que pontos próximos são decodificados em saídas parecidas e amostras aleatórias geram resultados plausíveis. A contrapartida é que VAEs clássicos, sozinhos, tendem a produzir imagens um pouco borradas, e por isso hoje são usados principalmente como etapa de compressão dos modelos de difusão, e não como geradores.
VAEs dentro de modelos de imagem e vídeo
Na difusão latente, o processo é: codificar as imagens de treinamento com o VAE, treinar o modelo de difusão para remover ruído nesse espaço latente e, no fim, decodificar o latente final de volta para pixels. Melhorar só o VAE já pode deixar os resultados visivelmente mais nítidos. Modelos mais novos passaram de 4 canais latentes (Stable Diffusion 1.x e SDXL) para 16 canais (Stable Diffusion 3, FLUX), o que preserva detalhes muito mais finos, como texto e mãos. Modelos de vídeo usam VAEs 3D que também comprimem no tempo, para que alguns segundos de vídeo caibam na memória.
Autoencoders esparsos
Uma variante próxima, o autoencoder esparso (sparse autoencoder), é treinada com as ativações internas de um modelo de linguagem, e não com imagens. Ao forçar a maior parte do código a ser zero, cada unidade tende a representar um conceito reconhecível, o que fez dele uma ferramenta central para olhar dentro dos modelos.