TPU
Por que isso importa
Em profundidade
A TPU parte de uma observação: aprendizado profundo é principalmente multiplicação de matrizes, portanto o chip mais rápido para a tarefa é aquele que faz multiplicação de matrizes e o mínimo possível além disso. Enquanto uma GPU carrega milhares de núcleos flexíveis mais caches, escalonadores e decodificadores de instruções, uma TPU remove a maior parte disso e dedica seu silício a enormes matrizes de multiplicação e acumulação alimentadas diretamente por memória de alta largura de banda. O Google implantou internamente a primeira TPU em 2015 para executar inferência e, desde então, produz uma nova iteração aproximadamente a cada dois anos: da v2 à v4, o projeto escalou para pods com milhares de chips para treinamento; v5p e v6 (Trillium) ampliaram ainda mais os pods; e v7 (Ironwood, anunciada em 2025) é a primeira geração construída principalmente para inferência. O resultado é uma das poucas alternativas em grande escala ao hardware da NVIDIA para treinamento de fronteira: todas as gerações de Gemini foram treinadas em TPUs, enquanto o AWS Trainium hoje também treina e serve o Claude em frotas de mais de um milhão de chips Trainium2.
Como Funciona uma Matriz Sistólica
O coração de uma TPU é a Matrix Multiply Unit (MXU), uma matriz sistólica — uma grade de dezenas de milhares de elementos simples de multiplicação e acumulação conectados diretamente aos vizinhos. Os pesos são carregados antecipadamente na grade; as ativações então entram por uma borda e fluem pela matriz em ritmo regular, com cada elemento multiplicando, somando e passando o resultado adiante. Como os dados se movem de vizinho a vizinho, não por uma hierarquia de cache, quase nenhum silício é gasto em caches, preditores de desvios ou decodificação de instruções; assim, o chip dedica quase toda a área e energia à aritmética. A contrapartida é a rigidez: a matriz só é eficiente quando o compilador consegue dividir a carga em grandes e densas operações de Multiplicação de Matrizes — exatamente aquilo de que consistem treinamento e inferência de transformers. Ao redor da MXU ficam uma unidade vetorial para matemática elemento a elemento, uma unidade escalar para fluxo de controle e pilhas de memória de alta largura de banda, e desde a segunda geração os chips computam em bfloat16, um formato de precisão reduzida que o Google apresentou com a TPU e que iniciou a era moderna de Treinamento com Precisão Mista.
Da v1 à Ironwood
Cada geração de TPU seguiu a mesma trajetória: mais computação por chip, mais largura de banda de memória e um pod maior. A v1 de 2015 era apenas para inferência, um acelerador de 8 bits que servia discretamente cargas de produção do Google — mais tarde, o Google revelou que as partidas do AlphaGo em 2016 rodaram em TPUs. A TPU v2 (2017) acrescentou treinamento em ponto flutuante e apresentou o pod: 256 chips ligados por uma interconexão própria para se comportarem como uma única máquina, um primeiro projeto de Treinamento Distribuído em escala. A v3 (2018) dobrou a aposta com pods de 1.024 chips e refrigeração líquida, e a v4 (2021) chegou a 4.096 chips por pod com links ópticos reconfiguráveis entre eles. A geração v5 de 2023 se dividiu em duas — v5e, otimizada para custo, e v5p, de alto desempenho —, seguida pela v6 (Trillium) em 2024 e pela v7 (Ironwood) em 2025, que reúne 9.216 chips em um único pod classificado em 42,5 exaFLOPS e é a primeira TPU construída principalmente para Inferência, não treinamento.
A Pilha de Software
Hardware é apenas metade da história; a outra é o XLA, compilador do Google que recebe um grafo de modelo e o mapeia para as matrizes sistólicas. A pilha de primeira geração pressupunha TensorFlow, que continua sendo de primeira classe, mas desde então o ecossistema passou a se concentrar em JAX, cujo estilo funcional combina bem com o XLA, com suporte a PyTorch pela ponte PyTorch/XLA. É aqui que TPUs realmente diferem de GPUs: o CUDA da NVIDIA tem uma década de bibliotecas, kernels e conhecimento institucional por trás, enquanto tudo em uma TPU passa por um compilador de grafo inteiro. Quando o compilador lida bem com o modelo — arquiteturas Transformer padrão geralmente se qualificam —, a utilização é excelente, muitas vezes melhor que em GPUs. Quando o modelo tem operações exóticas ou formas dinâmicas, desenvolvedores podem passar dias convencendo o XLA, razão pela qual escolher TPUs é tanto uma decisão de software quanto de hardware e faz parte de qualquer plano sério de Infraestrutura de IA.
Você Não Pode Comprar Uma
Um equívoco persistente é que a TPU seja a resposta do Google à GPU no mesmo sentido — uma placa que você pode encomendar e instalar em seus próprios servidores. Não é. O Google nunca vendeu TPUs como hardware separado (a única exceção é o pequeno coprocessador Edge TPU para dispositivos embarcados), portanto a única forma de usar uma TPU completa é alugar uma fatia de um pod no Google Cloud. Isso molda toda a adoção: não existe cluster TPU on-premises, mercado de usadas nem forma de testar uma contra uma GPU em laboratório privado. Também significa que o Google controla toda a pilha, do silício ao centro de dados, parte da razão pela qual a economia funciona. A lição mais ampla que a indústria tirou da TPU é que silício customizado é viável: a Groq foi fundada pelo engenheiro que iniciou o projeto TPU, e Amazon, Microsoft, Meta e OpenAI desde então lançaram seus próprios esforços de chips de IA.
Quem Realmente Usa TPUs
O cliente âncora é o próprio Google: o Google DeepMind treina e serve cada geração do Gemini em pods de TPU, junto do restante dos modelos de produção do Google, e historicamente as TPUs sustentaram sistemas como AlphaGo e AlphaFold. O sinal mais interessante é quem mais aparece. A Anthropic executa Claude em TPUs em escala muito grande e anunciou em 2025 um compromisso de usar até um milhão delas; a Apple treinou os modelos de fundação por trás do Apple Intelligence em clusters v4 e v5p e declarou isso em seus próprios relatórios técnicos. A proposta é direta — como um ASIC dispensa o mecanismo de propósito geral, TPUs normalmente entregam mais computação por dólar e por watt que GPUs quando a carga se encaixa, uma diferença que importa mais conforme o Consumo de Energia da IA vira uma restrição vinculante. O problema espelha a seção de software: equipes cuja pilha está profundamente investida em CUDA raramente mudam, enquanto aquelas já em JAX ou dispostas a padronizar um workflow conduzido por compilador muitas vezes descobrem que TPUs são a forma mais barata de treinar algo grande.