為什麼重要
GraphRAG 針對的是普通 RAG 最為人熟知的兩個弱點:
- 全域性問題:需要縱覽整個文件集,比如主題、趨勢、總結。
- 多跳問題:需要把不同文件裡的事實串起來,比如 A 與 B 有關,B 又與 C 有關。
它最適合對大型私有文件集做調查和分析類的工作,比如法律取證、情報分析、科學文獻和企業知識庫。
深度解析
標準的 RAG 把文件切成塊,為它們生成嵌入,再檢索出與問題最相似的幾個塊。當答案就在一兩個段落裡時,這很好用。但遇到「這 5,000 份報告的主要主題是什麼?」或「這家供應商和那起訴訟有什麼關聯?」這樣的問題,它就不行了,因為沒有哪一個塊單獨包含答案。
GraphRAG 在檢索之前加入了結構。由一個 LLM 閱讀文件,抽取其中的實體(人物、公司、產品、概念)以及它們之間的關係,建構出一張知識圖譜。這樣檢索就可以沿著關聯前進,而不只依賴文字相似度。這個詞既是泛稱,也指 Microsoft Research 在 2024 年發布的一個具體的開源系統。
Microsoft 的 GraphRAG 如何工作
建立索引:
- 把文件切成塊。
- 讓 LLM 從每個塊中抽取實體、關係和關鍵論斷。
- 把它們合併成一張圖,並合併重複的實體。
- 執行社群偵測演算法,把聯繫緊密的實體分成群集,並形成多個粒度層級。
- 讓 LLM 為每個社群寫一份摘要報告。
查詢:
- 全域搜尋:對寬泛的問題,系統把問題交給許多社群摘要,收集各自的部分答案,再以 map-reduce 的方式合併。
- 局部搜尋:對涉及特定實體的問題,系統從匹配到的實體出發,把它們的鄰居、關係、社群報告和原文一併取回。
成本
建立索引很貴。每個塊都要經過 LLM,而且往往不止一次,摘要又增加了更多呼叫。為一個大型文件集建索引的成本,可能是計算嵌入的幾百甚至幾千倍。更新也很麻煩,因為新文件可能改變圖及其摘要。抽取品質同樣重要:漏掉或錯誤合併的實體會悄悄拉低回答品質。
一些更輕量的變體在解決這個問題。Microsoft 的 LazyGraphRAG 把大部分 LLM 工作推遲到查詢時,LightRAG、HippoRAG 等專案則採用成本更低的建圖方式。Neo4j 等圖資料庫和 LlamaIndex 等框架也提供了各自的基於圖的檢索工具。
什麼時候用
當使用者確實會問全域性問題或需要把線索串起來的問題,並且文件集相對穩定時,就用 GraphRAG。不要把它用在直接查事實的場景,那裡混合搜尋加重排序模型更便宜、更快,效果通常也一樣好。一條穩妥的路線是先搭建普通 RAG,收集它答不好的問題,再看這些問題是不是圖能解決的那一類。
另一條路
代理式檢索用不同的方式解決了其中一部分問題:不預先建圖,而是讓代理反覆搜尋,順著線索從一篇文件追到下一篇。它每次查詢的成本更高,但沒有前期投入,如今很多團隊會在投入建圖之前先試試它。