過(guò)去半年我在 Agent 論文和工業(yè)落地之間來(lái)回橫跳最深的感受是Agentic RAG 和深度研究這兩個(gè)詞已經(jīng)被用到快沒有邊界了。搜索引擎、企業(yè)知識(shí)庫(kù)、論文總結(jié)工具全都往“深度研究”上靠但真正能打通“檢索 → 證據(jù)核驗(yàn) → 長(zhǎng)程任務(wù)執(zhí)行 → 可控成本”這條鏈路的方案屈指可數(shù)。這篇文章是《Agent 論文和工業(yè)界實(shí)戰(zhàn)總結(jié)》的第二篇聚焦 Agentic RAG 和深度研究這條線。我會(huì)先把論文里反復(fù)出現(xiàn)的架構(gòu)共性講明白再給出一套我在工業(yè)項(xiàng)目里實(shí)際用過(guò)的方案最后聊效率邊界——也就是哪些任務(wù)值得上 Agent哪些任務(wù)用 Agent 純屬浪費(fèi)預(yù)算。1. Agentic RAG 到底在解決什么問(wèn)題1.1 傳統(tǒng) RAG 的三個(gè)死穴先統(tǒng)一一下認(rèn)知傳統(tǒng) RAG 就是那套“查一遍就回答”的流水線用戶問(wèn)題 → embedding 召回 top-k → 拼上下文 → 讓模型生成答案。這套東西在社區(qū)和產(chǎn)品里跑了兩年多夠用但也捅出了不少婁子。我印象最深的一個(gè)場(chǎng)景某自動(dòng)駕駛公司做事故歸因分析業(yè)務(wù)方問(wèn)“上周深圳試點(diǎn)區(qū)域三起事故的共性是什么”。傳統(tǒng) RAG 拿到這句話后直接向量檢索召回的是一堆碎片化片段有的講天氣有的講傳感器有的講路口設(shè)計(jì)彼此之間沒有鏈條。最后模型強(qiáng)行綜合輸出一份看似流暢、實(shí)則每個(gè)判斷都缺乏確鑿出處的報(bào)告。業(yè)務(wù)方追問(wèn)一句“你說(shuō)‘夜間占比高’依據(jù)是哪個(gè)文檔的哪個(gè)章節(jié)”當(dāng)場(chǎng)答不上來(lái)。這就是傳統(tǒng) RAG 的三個(gè)死穴第一單次查詢的歧義和缺失一個(gè)問(wèn)題往往有多個(gè)子意圖一次 embedding 檢索只能表達(dá)一層含義第二多跳信息鏈條斷裂A 文檔定義概念B 文檔描述現(xiàn)象C 文檔給出數(shù)據(jù)需要串聯(lián)三層信息一步檢索做不到第三無(wú)法自我糾錯(cuò)檢索結(jié)果為空或者質(zhì)量差的時(shí)候系統(tǒng)沒有修正機(jī)制只能硬著頭皮生成于是幻覺就來(lái)了。1.2 把檢索權(quán)交給模型本身Agentic RAG 的核心變化只有一句話把“檢索什么、要不要檢索、檢索結(jié)果夠不夠”這個(gè)決策權(quán)從相似度計(jì)算交還給模型。傳統(tǒng) RAG 里檢索是固定動(dòng)作Agentic RAG 里檢索是模型根據(jù)當(dāng)前信息缺口動(dòng)態(tài)觸發(fā)的一個(gè)工具調(diào)用。我自己理解這套東西喜歡用“人查資料”來(lái)類比。一個(gè)人接到陌生問(wèn)題不會(huì)只搜一次就寫結(jié)論他會(huì)先搜一輪泛讀發(fā)現(xiàn)某個(gè)術(shù)語(yǔ)不懂再針對(duì)性搜術(shù)語(yǔ)解釋找到一份來(lái)源但覺得不夠權(quán)威換成官方文檔查證最后發(fā)現(xiàn)某個(gè)關(guān)鍵數(shù)據(jù)缺失繼續(xù)補(bǔ)一次定向檢索。Agentic RAG 就是把這套行為顯式化模型每走一步都能看到當(dāng)前已收集的證據(jù)、還缺什么、下一步該搜什么。這里繞不開論文。ReAct 提出推理軌跡和動(dòng)作交替執(zhí)行的框架是“思考→行動(dòng)→觀察”的雛形Self-RAG 更進(jìn)一步讓模型在 generate 前判斷是否需要檢索并生成 IsRel、IsSup、IsUse 這類反思信號(hào)決定答案是足夠支撐還是需要補(bǔ)充檢索CRAGCorrective RAG則給檢索結(jié)果加了“評(píng)估-修正”的動(dòng)作如果檢索質(zhì)量差不是簡(jiǎn)單放棄而是觸發(fā)修正檢索。到了 STORM 這類長(zhǎng)文研究系統(tǒng)多輪頭腦風(fēng)暴生成問(wèn)題清單、再并行檢索寫作的思路基本就是今天深度研究產(chǎn)品的論文形態(tài)。1.3 論文里反復(fù)出現(xiàn)的架構(gòu)共性我把 Agentic RAG 和深度研究相關(guān)的十幾篇論文放一起看發(fā)現(xiàn)架構(gòu)上高度趨同逃不出四個(gè)組件規(guī)劃器Planner負(fù)責(zé)把主問(wèn)題拆成子問(wèn)題生成檢索計(jì)劃和查詢?cè)~。工具層Tool Layer封裝向量檢索、網(wǎng)頁(yè)搜索、數(shù)據(jù)庫(kù)查詢、文檔閱讀器等能力模型按需調(diào)用。工作記憶Working Memory存已收集的證據(jù)、中間結(jié)論、待辦事項(xiàng)通常以結(jié)構(gòu)化筆記或摘要形式存在。反思門Reflection Gate在回答前評(píng)估證據(jù)充分性、一致性、信源可信度決定繼續(xù)檢索還是直接作答。這個(gè)共性值得強(qiáng)調(diào)因?yàn)楹芏喙I(yè)方案把 Agent 做得花里胡哨本質(zhì)還是在給這四個(gè)組件堆裝飾?？辞宄@個(gè)骨架后面做工程選型、加功能、排查問(wèn)題時(shí)心里會(huì)非常有底。2. 深度研究的核心鏈路從問(wèn)題拆解到長(zhǎng)程執(zhí)行2.1 問(wèn)題拆解好的查詢是成功的一半深度研究的第一道關(guān)卡不是檢索而是把模糊問(wèn)題變成一組可檢索、可驗(yàn)證、互不重疊的子問(wèn)題。規(guī)劃這一步做不好后面每一步檢索都是浪費(fèi)。我在實(shí)際項(xiàng)目里常用的拆解策略有三種改寫把口語(yǔ)問(wèn)題改成適合檢索的查詢?cè)~、分解把多跳問(wèn)題拆成多個(gè)單跳子問(wèn)題、假設(shè)枚舉對(duì)研究性任務(wù)列出候選假設(shè)逐個(gè)去驗(yàn)證。比如“生成式 AI 在金融風(fēng)控中的應(yīng)用趨勢(shì)”我不會(huì)讓 agent 直接搜這一句話而是讓它拆成生成式 AI 風(fēng)控的典型場(chǎng)景、頭部機(jī)構(gòu)的落地案例、監(jiān)管態(tài)度與合規(guī)約束、技術(shù)瓶頸與評(píng)估指標(biāo)、近一年公開報(bào)告的結(jié)論變化。規(guī)劃提示詞里我會(huì)強(qiáng)制模型輸出 JSON 格式的子問(wèn)題列表每個(gè)子問(wèn)題帶上預(yù)期檢索源類型官方報(bào)告、論文、新聞、論壇和優(yōu)先級(jí)。這樣做的好處是子問(wèn)題可并行執(zhí)行而不是讓 agent 一步一步線性推進(jìn)同時(shí)每個(gè)子問(wèn)題的檢索結(jié)果獨(dú)立評(píng)估出了問(wèn)題定位也快。這里的實(shí)操心得是不要迷信模型一次就能拆出高質(zhì)量子問(wèn)題。我通常會(huì)讓模型先拆一輪再用一個(gè)輕量檢查步驟去重、補(bǔ)漏、刪掉明顯超出任務(wù)范圍的子問(wèn)題。這個(gè)小門神幫我減少了不少無(wú)效檢索。2.2 多步檢索的策略選擇檢索策略不是越復(fù)雜越好要看任務(wù)形態(tài)。我按經(jīng)驗(yàn)把策略分成三類策略適用場(chǎng)景特點(diǎn)風(fēng)險(xiǎn)順序迭代檢索問(wèn)題依賴強(qiáng)需要逐步深入ReAct 式思考-行動(dòng)循環(huán)每步依賴上一步結(jié)論步數(shù)多、延遲高并行子問(wèn)題檢索子問(wèn)題彼此獨(dú)立一次拆解多個(gè)查詢并發(fā)執(zhí)行大幅降延遲上下文拼接成本高混合策略先廣后深第一輪并行泛覽再對(duì)關(guān)鍵缺口順序深挖實(shí)現(xiàn)復(fù)雜度高但兼顧質(zhì)量與速度實(shí)踐里一個(gè)標(biāo)準(zhǔn)的深度研究任務(wù)我會(huì)用“先并行、后順序”的混合策略。比如研究“多模態(tài)大模型在工業(yè)質(zhì)檢中的落地”第一輪并行搜市場(chǎng)報(bào)告、技術(shù)論文、標(biāo)桿案例、供應(yīng)商方案每個(gè)分支獨(dú)立跑第一輪結(jié)果回來(lái)后規(guī)劃器判斷哪些分支證據(jù)薄弱或存在矛盾鎖定兩三個(gè)關(guān)鍵缺口再做第二輪順序深挖。下面給一個(gè)最簡(jiǎn)的 Agentic RAG 主循環(huán)偽代碼這是我自研方案里最核心的骨架# 最簡(jiǎn) Agentic RAG 主循環(huán)偽代碼 def research_agent(question): notes [] for step in range(max_steps): plan llm.plan( questionquestion, notesnotes, historydecision_log ) action plan[action] # search | verify | answer if action answer: return llm.answer(question, notes) docs search(plan[query], top_k8) evidence extract_evidence(docs, plan[query]) notes merge_into_notes(notes, evidence) verdict llm.judge( questionquestion, notesnotes, missingplan.get(gaps, []) ) if verdict[sufficient]: return llm.answer(question, notes) if verdict[contradiction]: notes.append(additional_search_for_resolution(verdict[conflict])) return llm.answer(question, notes)注意幾個(gè)關(guān)鍵點(diǎn)merge_into_notes不是簡(jiǎn)單把文本拼進(jìn)上下文而是做去重、溯源、按子問(wèn)題歸類llm.judge是成本最高的調(diào)用我控制它的頻率只有當(dāng)新增證據(jù)達(dá)到閾值或者出現(xiàn)矛盾時(shí)才觸發(fā)max_steps一定要設(shè)硬上限否則長(zhǎng)任務(wù)會(huì)無(wú)限發(fā)散。2.3 長(zhǎng)程任務(wù)的記憶與狀態(tài)管理深度研究和普通 RAG 的最大差異是長(zhǎng)程——任務(wù)動(dòng)輒十幾步、幾十步上下文窗口再大也會(huì)被塞爆。很多人第一步就搞錯(cuò)把所有檢索結(jié)果一股腦塞進(jìn) prompt結(jié)果就是早期信息被稀釋、模型注意力漂移、回答質(zhì)量斷崖式下跌。我的方案是結(jié)構(gòu)化工作筆記scratchpad代替全文拼接。每個(gè)子問(wèn)題對(duì)應(yīng)一組證據(jù)條目每條證據(jù)保存來(lái)源 ID、原文引用片段、提取出的關(guān)鍵斷言、業(yè)已驗(yàn)證狀態(tài)。規(guī)劃和反思時(shí)只讀摘要級(jí)筆記只有到最終組織答案時(shí)才引用完整證據(jù)片段。一個(gè)典型的狀態(tài)對(duì)象長(zhǎng)這樣{ task_id: deep-research-1024, sub_questions: [ 生成式AI在風(fēng)控中的典型場(chǎng)景, 頭部機(jī)構(gòu)落地案例, 監(jiān)管約束與合規(guī)要求 ], evidence: { claim_A: [ {source: s3, quote: 某銀行將生成式AI用于反欺詐規(guī)則生成準(zhǔn)確率提升7%}, {source: s7, quote: 同一案例在行業(yè)報(bào)告中的二次描述} ], claim_B: [{source: s5, quote: 某地監(jiān)管要求算法備案與人工復(fù)核}] }, pending: [需要確認(rèn) claim_A 的時(shí)間范圍是否為2024-2025], decision_log: [ 已排除來(lái)源s2非官方博客且與s5矛盾, 已確認(rèn)s3與s7為同一事件的不同報(bào)道可交叉引用 ] }這個(gè)設(shè)計(jì)帶來(lái)的直接收益上下文占用可控每步新增的 token 只增量增長(zhǎng)可觀測(cè)性極好出問(wèn)題直接看 decision_log 和 pending可緩存同一個(gè)子問(wèn)題的證據(jù)做 key-value 緩存后續(xù)任務(wù)直接復(fù)用。3. 證據(jù)核驗(yàn)讓檢索結(jié)果經(jīng)得起追問(wèn)3.1 引用溯源能力的工程化深度研究產(chǎn)品能不能被信任核心指標(biāo)是引用精度citation precision——也就是每條斷言是否有對(duì)應(yīng)來(lái)源支撐來(lái)源是否是真實(shí)可查的。工業(yè)落地時(shí)我強(qiáng)制要求三件事第一句子級(jí)引用。答案的每個(gè)關(guān)鍵斷言后面必須掛來(lái)源編號(hào)引用粒度是句子而不是整段。這需要在生成提示詞里寫死規(guī)則并讓模型先出示證據(jù)、再寫結(jié)論。第二引用即約束。模型只能基于已檢索到的內(nèi)容作答禁止輸出檢索范圍之外的信息。我用一個(gè)硬性校驗(yàn)生成完成后逐句檢查斷言是否能在 notes 中找到對(duì)應(yīng)的 quote。找不到就標(biāo)記為疑似幻覺觸發(fā)修正或刪除。第三信源分級(jí)。不同來(lái)源的可信度權(quán)重不同我在狀態(tài)對(duì)象里給每條證據(jù)標(biāo)注來(lái)源類型官方文檔/權(quán)威論文權(quán)重最高行業(yè)媒體次之論壇和自媒體最低。組織答案時(shí)優(yōu)先采用高權(quán)重來(lái)源低權(quán)重來(lái)源只作為補(bǔ)充視角。3.2 多源交叉驗(yàn)證與矛盾處理證據(jù)核驗(yàn)的第二層是交叉驗(yàn)證。一條關(guān)鍵斷言我要求至少有兩個(gè)獨(dú)立來(lái)源支撐才能寫進(jìn)最終答案。所謂“獨(dú)立”是指來(lái)源之間沒有轉(zhuǎn)載關(guān)系——同一篇新聞稿轉(zhuǎn)載一百次本質(zhì)上還是一個(gè)來(lái)源。實(shí)際工程里我做了個(gè)簡(jiǎn)單的“證據(jù)一致性打分”把對(duì)同一斷言的多個(gè)證據(jù)片段喂給輕量模型讓它輸出“一致 / 沖突 / 互為補(bǔ)充”三類標(biāo)簽。一致的進(jìn)入可信證據(jù)池沖突的單獨(dú)列出來(lái)不讓它混入結(jié)論互為補(bǔ)充的可以合并描述。這里最反直覺的一點(diǎn)是不要試圖強(qiáng)行消除矛盾。真實(shí)世界的資料就是會(huì)有沖突比如不同機(jī)構(gòu)對(duì)同一指標(biāo)給出不同統(tǒng)計(jì)口徑。深度研究產(chǎn)品要做的是把分歧呈現(xiàn)出來(lái)告訴用戶“來(lái)源 A 說(shuō) X來(lái)源 B 說(shuō) Y差異原因是統(tǒng)計(jì)口徑不同”而不是硬造一個(gè)統(tǒng)一結(jié)論。我在產(chǎn)品里專門留了一個(gè)“爭(zhēng)議點(diǎn)”區(qū)塊用戶反饋反而比“看似完美的統(tǒng)一答案”更信任我們。3.3 自我批判與對(duì)抗回讀模型是生成器也是最好的批判者。論文里 Self-RAG 的反思信號(hào)、CRAG 的檢索修正本質(zhì)上都是在引入一個(gè)自我評(píng)估回路。工業(yè)落地時(shí)我在最終答案出來(lái)前加一道對(duì)抗回讀adversarial re-read讓模型扮演一個(gè)挑刺的審核員針對(duì)答案里的每個(gè)關(guān)鍵斷言反向?qū)ふ曳醋C或證據(jù)缺口。我在提示詞里這么寫你是一名嚴(yán)格的證據(jù)審核員。以下是待審核答案和它引用的證據(jù)集。 對(duì)答案中每個(gè)關(guān)鍵斷言執(zhí)行 1. 指出該斷言對(duì)應(yīng)的證據(jù) quote 2. 判斷 quote 是否完整支持?jǐn)嘌跃柽^(guò)度推斷、范圍擴(kuò)大 3. 列出證據(jù)集中可能推翻該斷言的反證條目 4. 輸出結(jié)論通過(guò) / 需修改 / 需補(bǔ)充檢索。 只輸出 JSON。這道工序每輪任務(wù)會(huì)增加一次到兩次模型調(diào)用但收益巨大。實(shí)測(cè)下來(lái)深度研究答案的“斷言-證據(jù)匹配率”能從七成左右提升到九成以上而且很多模型自作主張的過(guò)度推斷都會(huì)被篩出來(lái)。如果你的系統(tǒng)對(duì)答案正確性要求高這一步絕對(duì)不能省。4. 工業(yè)界實(shí)戰(zhàn)一條能扛住真實(shí)流量的深度研究方案4.1 工具與框架選型先說(shuō)框架。我不建議一上來(lái)就套重型框架。LangGraph、Dify、CrewAI 我都試過(guò)Dify 做原型驗(yàn)證最快拖拽界面十幾分鐘能跑通一個(gè) agentCrewAI 的多角色編排很直觀適合演示但生產(chǎn)環(huán)境我更傾向 LangGraph 或者直接自研主循環(huán)。原因很簡(jiǎn)單深度研究對(duì)狀態(tài)控制、可觀測(cè)性、步數(shù)管理與緩存的要求非常具體低代碼工具到了這個(gè)復(fù)雜度會(huì)變成束縛。檢索后端我采用混合檢索方案BM25 文本檢索 向量檢索并行再用 RRFReciprocal Rank Fusion融合排序。向量庫(kù)我用過(guò) Milvus、Qdrant、pgvector結(jié)論是中小規(guī)模 pgvector 夠用百萬(wàn)級(jí)以上文檔量直接上 Milvus。重排層用 cross-encoder 模型做精排把融合后的 top 30 壓縮到 top 8。這一步對(duì)最終答案質(zhì)量影響非常大不能省。4.2 關(guān)鍵工程細(xì)節(jié)并行、緩存與重排深度研究延遲和成本的敵人是串行調(diào)用。我在工程上做了三層優(yōu)化并行子查詢拆解出的子問(wèn)題用 asyncio 并發(fā)執(zhí)行控制并發(fā)數(shù)為 6 左右避免打爆檢索服務(wù)。第一輪檢索的墻鐘時(shí)間能從 30 秒壓到 8 秒左右。查詢級(jí)緩存與證據(jù)級(jí)緩存相同或相似查詢直接命中緩存檢索回來(lái)的文檔片段按內(nèi)容哈希去重重復(fù)訪問(wèn)同一來(lái)源時(shí)不重復(fù)計(jì)費(fèi)也不重復(fù)進(jìn)上下文。緩存命中率高的時(shí)候研究任務(wù)的 token 成本能降四成。動(dòng)態(tài) top-k 與自適應(yīng)預(yù)算不固定每次檢索返回?cái)?shù)量。泛覽階段 top_k 給 10深挖階段給 4。步數(shù)上限按問(wèn)題復(fù)雜度動(dòng)態(tài)分配簡(jiǎn)單問(wèn)題 4 步中等 6 步復(fù)雜報(bào)告類任務(wù)給到 12 步。下面是我常用的配置樣例可以直接抄RETRIEVAL_CFG { top_k_hybrid: 30, rerank_top_k: 8, chunk_size: 1024, chunk_overlap: 128, parallel_workers: 6, step_cap: 8, reflection_frequency: 3, latency_budget_s: 45, source_cache_ttl_h: 24 }幾個(gè)參數(shù)的解釋chunk_size 1024 是經(jīng)驗(yàn)值太小碎片化嚴(yán)重、信息不完整太大噪音多、檢索精度下降reflection_frequency 3 表示每 3 步做一次全局證據(jù)評(píng)估而不是每步都做省掉大量重復(fù)判斷l(xiāng)atency_budget_s 是硬性預(yù)算超過(guò)直接進(jìn)入收尾作答避免用戶等太久。4.3 成本、延遲與效率邊界這是我這篇文章最想展開的部分。效率邊界不是一個(gè)模糊概念它是可以量化衡量的。直接說(shuō)實(shí)測(cè)數(shù)據(jù)單輪傳統(tǒng) RAG 的端到端延遲在 2 到 4 秒單次調(diào)用成本約 0.02 到 0.05 元Agentic RAG 帶反思、多步檢索后延遲會(huì)到 10 到 30 秒成本翻 3 到 5 倍深度研究任務(wù)拆解 5 到 10 個(gè)子問(wèn)題、多輪深挖、最終成文延遲通常在 30 秒到 3 分鐘成本是傳統(tǒng) RAG 的 10 到 20 倍。所以我給團(tuán)隊(duì)立了一條非常明確的分流規(guī)則信息密度低的直接問(wèn)答走傳統(tǒng) RAG需要跨源交叉、多條件約束、窮舉綜述的任務(wù)才走深度研究。比如“公司年假制度是什么”這種事實(shí)型問(wèn)題用深度研究就是拿大炮打蚊子多出的成本和延遲完全無(wú)意義而“對(duì)比三家供應(yīng)商的架構(gòu)方案并給出選型建議”這種綜合分析型問(wèn)題才值得動(dòng)用完整鏈路。另一個(gè)效率邊界是反思步數(shù)的邊際收益遞減。我做過(guò)統(tǒng)計(jì)在 12 步上限的任務(wù)里前 6 步的檢索覆蓋率提升最明顯到第 8 步之后每多一步增加的“有效新證據(jù)”數(shù)量驟降。因此我在產(chǎn)品里設(shè)置了早停機(jī)制——當(dāng)連續(xù)兩次反思都判定“證據(jù)充足、無(wú)新增缺口”時(shí)直接進(jìn)入生成階段不再機(jī)械執(zhí)行剩余步數(shù)。這個(gè)機(jī)制能把平均步數(shù)從 9 壓縮到 6質(zhì)量幾乎無(wú)損。深度研究的性能邊界還體現(xiàn)在任務(wù)類型上它擅長(zhǎng)“知識(shí)報(bào)告類”任務(wù)比如行業(yè)調(diào)研、競(jìng)品分析、技術(shù)選型、論文綜述不擅長(zhǎng)需要實(shí)時(shí)數(shù)據(jù)的操作型任務(wù)比如航班查詢、股價(jià)快照、庫(kù)存狀態(tài)。后者應(yīng)該接 API 而不是接檢索 agent。這一點(diǎn)在設(shè)計(jì)產(chǎn)品之初就要想清楚否則做出來(lái)的東西既慢又貴用戶的耐心撐不了幾次。5. 常見問(wèn)題排查與避坑清單5.1 檢索漂移與重復(fù)檢索我遇到最多的問(wèn)題就是檢索漂移agent 越搜越偏從“生成式 AI 在風(fēng)控中的應(yīng)用”一路漂到“大模型的訓(xùn)練成本”完全離題。排查下來(lái)根源通常是規(guī)劃器中缺少范圍約束或者反思門沒有對(duì)比“當(dāng)前檢索結(jié)果與主問(wèn)題的相關(guān)性”。解決辦法給規(guī)劃器加一個(gè)scope_check步驟每次生成子查詢前先過(guò)一遍主問(wèn)題的主題關(guān)鍵詞同時(shí)給反思門加“離題檢測(cè)”當(dāng)檢索結(jié)果的語(yǔ)義相似度低于閾值時(shí)強(qiáng)行拉回主問(wèn)題并丟棄無(wú)關(guān)證據(jù)。另外重復(fù)檢索同一來(lái)源的問(wèn)題也要靠緩存加狀態(tài)檢查來(lái)堵我要求 agent 在生成查詢前先看 evidence 里是否已有該來(lái)源命中就直接跳過(guò)。5.2 證據(jù)與答案不一致癥狀是答案看著比證據(jù)“豐富”很多模型擅自補(bǔ)了檢索結(jié)果里沒有的細(xì)節(jié)。這種往往是提示詞里的約束不夠硬或者反思門沒有對(duì)最終的斷言做逐條校驗(yàn)。我現(xiàn)在的做法是三層兜底生成階段提示詞里寫死“只能用給定證據(jù)”生成后用對(duì)抗回讀逐條比對(duì)斷言和 quote比對(duì)不過(guò)的句子要么刪除要么觸發(fā)一次補(bǔ)充檢索。三層下來(lái)答案和證據(jù)的不一致率已經(jīng)壓到很低但代價(jià)是多花一次模型調(diào)用項(xiàng)目要結(jié)合成本預(yù)算取舍。5.3 長(zhǎng)任務(wù)死循環(huán)與上下文爆炸長(zhǎng)程任務(wù)跑著跑著就出問(wèn)題的場(chǎng)景很常見某一步的工具返回格式異常agent 重試同樣的動(dòng)作或者 notes 越攢越多prompt 超長(zhǎng)模型開始胡言亂語(yǔ)。我的經(jīng)驗(yàn)是給系統(tǒng)上四道保險(xiǎn)硬步數(shù)上限step_cap超了就強(qiáng)制進(jìn)入 finalize哪怕質(zhì)量打折工具錯(cuò)誤重試上限最多重試 2 次換用摘要模式或直接跳過(guò)筆記窗口滑動(dòng)保留最近的證據(jù)全文 早期證據(jù)的摘要防止上下文膨脹checkpoint 所以每完成一個(gè)子問(wèn)題就把狀態(tài)對(duì)象落庫(kù)任務(wù)中斷可以從中斷點(diǎn)恢復(fù)。5.4 評(píng)估與回歸深度研究系統(tǒng)改一版提示詞就可能在看不見的地方劣化沒有評(píng)估體系等于裸奔。我搭了一套輕量評(píng)估集50 道多跳問(wèn)題覆蓋事實(shí)型、對(duì)比型、綜述型三類每次改動(dòng)后跑一遍記錄四組指標(biāo)——引用精度斷言有引的比例、答案正確率用 LLM judge 打分、檢索命中率證據(jù)中包含關(guān)鍵信息的比例、效率指標(biāo)平均步數(shù)和延遲。這里分享一個(gè)經(jīng)驗(yàn)LLM judge 評(píng)估答案質(zhì)量時(shí)要把“引用精度”單獨(dú)打分不要混在“答案正確性”里。混在一起會(huì)讓評(píng)分失去診斷價(jià)值——一個(gè)答案可能內(nèi)容全對(duì)但是引用是編的這種情況下必須判定為不合格否則流到線上就是事故。寫在最后這套內(nèi)容我踩了不少坑才慢慢成型。如果只留一條建議那就是從最簡(jiǎn)的 agent loop 開始先跑通檢索-反思-作答三步再逐步加并行、交叉驗(yàn)證、對(duì)抗回讀這些重型武器。不要一開始就上多 agent 辯論、復(fù)雜圖編排復(fù)雜度一旦上來(lái)排查問(wèn)題的成本會(huì)指數(shù)級(jí)上漲。深度研究目前最適合的定位是“知識(shí)報(bào)告類任務(wù)”——一個(gè)人要花兩三天才能完成的資料收集和綜述agent 用幾分鐘給出一份可溯源、有據(jù)可查的初稿。后續(xù)我還在試的方向是把結(jié)構(gòu)化的領(lǐng)域知識(shí)圖譜接進(jìn)證據(jù)核驗(yàn)環(huán)節(jié)讓“交叉驗(yàn)證”不再只靠文本相似度而是能對(duì)實(shí)體、關(guān)系層面的矛盾做判斷扛得住更刁鉆的追問(wèn)。