一種檢索增強生成方式,由模型自己決定何時搜尋、搜尋什麼以及是否已經找夠,而不是遵循固定的先檢索後回答的管線。
為什麼重要
如今大多數 AI 搜尋產品都是這樣工作的。ChatGPT、Claude、Gemini 和 Perplexity 中的深度研究功能,每個問題都會執行幾十甚至上百次搜尋。程式編寫代理也用同樣的方式探索程式碼庫:反覆搜尋和讀取檔案,而不是做一次嵌入查詢。
它之所以變得實用,是因為模型在使用工具和評判自己的結果方面變強了。在難題上收益最大:多跳問題、需要澄清的模糊問題,以及第一次搜尋才揭示出下一步該搜什麼詞的問題。
深度解析
經典 RAG 是一條固定的管線:拿到使用者的問題,檢索一次排名最靠前的幾個塊,把它們貼進提示,然後生成答案。檢索到什麼,模型沒有發言權。如果搜尋沒搜到,答案就是錯的,而系統裡沒有任何環節會察覺。
Agentic RAG 讓模型來主導檢索。搜尋變成了一個模型可以呼叫的工具,需要多少次就呼叫多少次。它可以把問題改寫成更好的查詢,把複雜問題拆成幾部分,閱讀結果,發現缺口,用剛學到的東西再搜一次,並在證據足夠時停下來。
代理能做什麼
- 決定要不要檢索。 「2+2 等於幾」不需要搜尋。
- 自己寫查詢。 使用者寫的問題往往很亂。模型可以把一個問題變成幾次精確的搜尋。
- 在多個來源中選擇。 向量搜尋、關鍵字搜尋、SQL、網路搜尋 API、檔案工具和其他系統,都可以作為工具提供。
- 迭代。 閱讀結果,順著引用追下去,再不斷細化。這就是把 ReAct 迴圈用在檢索上。
- 自我檢查。 評判檢索到的段落是否真的回答了問題,並對照來源核實答案草稿。
最簡單的版本
你不需要框架。給一個能力強的模型一兩個描述清晰的搜尋工具,告訴它先搜尋再回答,並註明引用了什麼,再限制步數上限。僅此一項,在難題上往往就能勝過精心調校的單次檢索管線。
取捨
- 延遲和成本:每一步搜尋都是又一次模型呼叫。原本一秒鐘的簡單問題可能要十秒,一個深度研究任務可能要花幾分鐘,用掉幾十萬 token。
- 上下文膨脹:結果在上下文視窗裡越堆越多,所以工具應該回傳緊湊、相關的片段。
- 更難預測:代理可能過早停下、原地打轉或跑偏。評估必須看整條軌跡,而不只是答案。
- 安全:檢索到的網頁和文件可能含有提示注入,而擁有其他工具的代理可能照著去做。
檢索品質依然重要
代理對糟糕的搜尋工具只能彌補到一定程度。好的分塊、混合搜尋和重排序會讓每一步更有用,並減少所需的步數。有意思的是,代理用簡單的工具往往也表現不錯,比如關鍵字搜尋和直接讀檔案,因為它們可以靠再試一次來彌補不精確。
什麼時候用哪種
對於講究速度的大量簡單查詢,比如根據 FAQ 回答的客服機器人,經典的單次檢索 RAG 仍然是合適的工具。對於研究、分析和複雜問題,就讓模型來主導。很多系統兩者並用:先做一次快速檢索,只有在需要時才讓代理進一步搜尋。