A expressão "papagaio estocástico" vem de um artigo específico — "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" de Emily Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell, publicado em 2021. Os argumentos reais do artigo são mais sutis do que o termo sugere. Bender e Gebru não estavam simplesmente afirmando que os modelos de linguagem são burros. Eles levantaram quatro preocupações: o custo ambiental de treinar modelos cada vez maiores, a codificação de visões hegemônicas encontradas nos dados de treinamento da internet, a incapacidade dos modelos de fundamentar suas saídas em significado do mundo real, e o risco de que o texto fluente engane as pessoas a acreditarem que há compreensão genuína por trás dele. O artigo tornou-se infame não apenas pelo seu conteúdo, mas pelo seu desfecho — o Google demitiu Gebru de sua equipe de IA Ética pouco depois de ela submetê-lo para revisão interna, e depois expulsou Mitchell semanas depois. A polêmica transformou o que poderia ter sido uma contribuição acadêmica comum em um ponto de discórdia sobre o controle corporativo da pesquisa em ética da IA.
A versão "steel-man" do argumento do papagaio estocástico é forte, e o engajamento honesto com a IA exige reconhecê-lo. Os modelos de linguagem de fato codificam vieses de seus dados de treinamento — não como um bug corrigível, mas como uma característica estrutural do aprendizado a partir do texto humano. Eles não têm compreensão fundamentada em nenhum sentido convencional: um modelo pode descrever o sabor de uma morango com detalhes exquisitos sem jamais ter experimentado o sabor. Os recursos computacionais necessários para modelos de fronteira são verdadeiramente enormes, e os custos ambientais são reais, mesmo que estejam melhorando por parâmetro. Mais importante, o aviso do artigo sobre a "ilusão de compreensão" envelheceu bem. As pessoas de fato confiam excessivamente em textos fluentes. Cada implantação de um chatbot em atendimento ao cliente ou em saúde prova que os usuários atribuem compreensão a sistemas que não a têm, ao menos não no sentido que os humanos entendem "compreensão".
As argumentações mais fortes vêm de capacidades que surgiram após a publicação do artigo. A razão de pensamento em cadeia, onde os modelos resolvem problemas passo a passo e chegam a respostas corretas que não poderiam alcançar em uma única passada, é difícil de explicar como mera imitação estatística. O aprendizado no contexto — a capacidade de adquirir tarefas totalmente novas a partir de alguns exemplos no prompt, sem atualizações de peso — vai além de qualquer coisa que papagaios façam. Os modelos podem escrever código funcional para problemas novos, traduzir entre idiomas para os quais viram dados paralelos limitados, e generalizar instruções para situações bastante diferentes de seus exemplos de treinamento. Se isso é "apenas" correspondência de padrões, então a correspondência de padrões é muito mais poderosa do que o metáfora sugere. A pergunta não é se os modelos são correspondentes de padrões (eles são), mas se a correspondência de padrões em escala suficiente produz algo funcionalmente equivalente a raciocínio.
É aí que a conversa se torna genuinamente filosófica, e honestamente, sem resolução. O experimento mental da Sala Chinesa de John Searle — onde uma pessoa segue regras para manipular símbolos chineses sem compreender o chinês — mapeia diretamente para o debate sobre o papagaio estocástico. Defensores da capacidade de LLM argumentam por equivalência funcional: se um sistema produz saídas indistinguíveis da compreensão, importa o mecanismo interno? Críticos argumentam que, sem fundamentação em experiência física e intencionalidade genuína, nenhuma quantidade de manipulação de texto constitui compreensão. Ambos têm um ponto, e a resposta honesta é que não temos uma definição satisfatória de "compreensão" mesmo para a cognição humana. A resposta do pragmatista é que talvez não importe. Se um modelo conseguir diagnosticar um bug no seu código, explicar um conceito de física claramente ou elaborar um parecer jurídico que um advogado ache útil, o status filosófico de sua "compreensão" é menos importante do que se a saída estiver correta e útil.
A maioria dos pesquisadores sérios de IA já passou do quadro binário "papagaio vs. inteligência real". A pergunta interessante não é mais se os LLMs compreendem a linguagem — é qual tipo de cognição está acontecendo e o que ele pode e não pode fazer com confiabilidade. Os modelos claramente fazem algo além de repetir, mas também claramente carecem de coisas que os humanos têm: memória persistente em conversas, experiência corporal, crenças consistentes, a capacidade de saber o que não sabem. O rótulo "papagaio estocástico" ainda é útil como um alerta contra o excesso de otimismo — um lembrete de que texto fluente não é o mesmo que verdade, e que saídas impressionantes não garantem raciocínio sólido. Mas como uma descrição completa do que os modelos de linguagem grandes estão fazendo, ele parou de ser adequado em algum momento em torno do GPT-4. O campo precisa de melhores metáforas, e mais importante, de melhores ferramentas empíricas para compreender o que esses sistemas realmente aprendem.