GraphRAG
Por que isso importa
O GraphRAG mira as duas fraquezas mais conhecidas do RAG simples:
- Perguntas globais que exigem uma visão de toda a coleção: temas, tendências, resumos.
- Perguntas multi-hop que exigem ligar fatos de documentos diferentes: A se relaciona com B, e B se relaciona com C.
Ele é mais útil em trabalhos investigativos e analíticos sobre grandes coleções privadas, como a análise de provas em processos judiciais, a análise de inteligência, a literatura científica e as bases de conhecimento corporativas.
Em profundidade
O RAG padrão corta os documentos em chunks, gera embeddings deles e recupera os poucos chunks mais parecidos com a pergunta. Isso funciona bem quando a resposta está em um ou dois trechos. Falha em perguntas como "Quais são os principais temas destes 5.000 relatórios?" ou "Como este fornecedor está ligado àquele processo judicial?", porque nenhum chunk sozinho contém a resposta.
O GraphRAG acrescenta estrutura antes da recuperação. Um LLM lê os documentos e extrai as entidades (pessoas, empresas, produtos, conceitos) e as relações entre elas, construindo um grafo de conhecimento. A recuperação pode então seguir conexões em vez de depender só da similaridade de texto. O termo é usado de forma genérica e também dá nome a um sistema open source específico lançado pela Microsoft Research em 2024.
Como funciona o GraphRAG da Microsoft
Indexação:
- Dividir os documentos em chunks.
- Fazer um LLM extrair entidades, relações e afirmações-chave de cada chunk.
- Fundi-las em um único grafo, combinando entidades duplicadas.
- Rodar um algoritmo de detecção de comunidades para agrupar entidades fortemente conectadas em clusters, em vários níveis de detalhe.
- Fazer um LLM escrever um relatório-resumo para cada comunidade.
Consulta:
- Busca global: para perguntas amplas, o sistema apresenta a pergunta a muitos resumos de comunidades, coleta respostas parciais e as combina, no estilo map-reduce.
- Busca local: para perguntas sobre entidades específicas, ele parte das entidades correspondentes e traz seus vizinhos, suas relações, os relatórios de comunidade e o texto-fonte.
O custo
A indexação é cara. Cada chunk passa por um LLM, muitas vezes mais de uma vez, e os resumos acrescentam mais chamadas. Indexar uma coleção grande pode custar centenas ou milhares de vezes mais do que calcular embeddings. As atualizações também são trabalhosas, já que novos documentos podem mudar o grafo e seus resumos. A qualidade da extração também importa: entidades que passaram despercebidas ou foram fundidas por engano degradam as respostas silenciosamente.
Variantes mais leves atacam esse problema. O LazyGraphRAG, da Microsoft, adia a maior parte do trabalho do LLM para o momento da consulta, e projetos como LightRAG e HippoRAG usam uma construção de grafo mais barata. Bancos de dados de grafos e frameworks como Neo4j e LlamaIndex oferecem suas próprias ferramentas de recuperação baseadas em grafos.
Quando usar
Use o GraphRAG quando os usuários realmente fizerem perguntas globais ou de ligar os pontos e a coleção for razoavelmente estável. Não o use para consulta direta de fatos, em que a busca híbrida com um reranker é mais barata, mais rápida e geralmente tão boa quanto. Um caminho sensato é construir primeiro um RAG simples, coletar as perguntas em que ele falha e verificar se são do tipo que um grafo resolveria.
Um caminho alternativo
A recuperação agêntica resolve alguns dos mesmos problemas de outro jeito: em vez de construir um grafo antecipadamente, um agente busca repetidamente, seguindo pistas de um documento para o próximo. Custa mais por consulta, mas nada de antemão, e muitas equipes agora a testam antes de investir em um grafo.