A lição amarga
Por que isso importa
O ensaio é provavelmente o texto informal mais citado da IA moderna, e moldou a forma de pensar dos grandes laboratórios. A aposta por trás dos grandes modelos de linguagem é a lição amarga em ação: pegar uma arquitetura simples e geral, dar a ela quantidades enormes de dados e de computação, e não programar regras linguísticas à mão. Quando alguém diz que uma ideia é ou não é "bitter-lesson-pilled", está perguntando se ela vai ser varrida pela próxima rodada de escala.
Para quem constrói produtos, o ensaio traz um aviso prático: gambiarras engenhosas para as fraquezas atuais de um modelo muitas vezes ficam obsoletas quando chega o modelo seguinte.
Em profundidade
"The Bitter Lesson" é um ensaio curto publicado em março de 2019 por Rich Sutton, um dos fundadores do aprendizado por reforço e, mais tarde, ganhador do Prêmio Turing. Olhando para 70 anos de pesquisa em IA, ele viu a mesma história se repetir. Os pesquisadores tentam embutir em um sistema o próprio entendimento que têm de um problema: a estratégia do xadrez, as regras da gramática, como detectar bordas em uma imagem. Isso ajuda no começo. Depois, um método mais simples e mais geral, que apenas usa mais computação por meio de busca e aprendizado, ultrapassa o anterior e continua melhorando.
A lição é amarga porque significa que o conhecimento de que os pesquisadores mais se orgulham tende a não importar no longo prazo.
Os exemplos de Sutton
- Xadrez: o Deep Blue venceu Garry Kasparov em 1997 principalmente com busca em massa, para desgosto dos pesquisadores que tinham tentado codificar o entendimento humano do xadrez.
- Go: as abordagens feitas à mão ficaram estagnadas por décadas. O AlphaGo combinou busca com aprendizado, e depois o AlphaZero abandonou por completo os dados de partidas humanas e ficou mais forte.
- Reconhecimento de fala: os sistemas construídos sobre o conhecimento dos linguistas a respeito dos fonemas perderam para os métodos estatísticos e, depois, para o deep learning.
- Visão computacional: os detectores de features projetados à mão foram substituídos por redes convolucionais que aprendiam as próprias features.
O que ela não diz
O ensaio costuma ser resumido como "é só colocar mais computação". A afirmação real de Sutton é mais restrita: prefira métodos capazes de usar mais computação à medida que ela fica disponível. A estrutura continua importando. O próprio transformer é um design humano, só que um design geral, que escala bem. Os dados também não são de graça: o aprendizado precisa de algo com que aprender e, em muitos problemas, coletar os dados certos é a parte difícil.
Aplicando ao desenvolvimento com LLMs
Cadeias de prompts elaboradas, parsers escritos à mão para consertar a saída do modelo e pipelines rígidos de várias etapas muitas vezes acabam substituídos por uma única chamada a um modelo melhor. Muitas equipes que constroem agentes relatam o mesmo padrão: cada geração de modelos permite apagar andaimes. Um hábito útil é perguntar, diante de qualquer gambiarra: "um modelo mais forte vai tornar isso desnecessário?". Se sim, mantenha a solução barata e fácil de remover, e invista no que dura: seus dados, suas avaliações e suas ferramentas.
As críticas e a virada do próprio Sutton
Os críticos observam que computação custa caro, que eficiência e bons priors importam quando os dados são escassos (como em robótica ou medicina), e que os maiores ganhos muitas vezes vieram de combinar escala com ideias novas. O próprio Sutton argumentou que os LLMs de hoje não seguem totalmente a lição dele, porque aprendem com texto escrito por humanos, e não com a própria experiência do mundo. Na visão dele, a abordagem realmente escalável continua sendo a de sistemas que aprendem continuamente agindo e observando.