知序
返回
保存草稿
发布
H1
H2
H3
1
2
3
Excalidraw 图
AI 写作
AI 优化
目录
输入内容后显示目录
Markdown
# Agentic RAG:把检索作为工具 > 导读:本文从"我们明明做了 RAG,为什么用户一个需要对比三个文档、再算一步的问题,助手就答非所问?"这个实际开发中的疑问出发,把 RAG(Retrieval-Augmented Generation,检索增强生成)从固定流水线到 Agent 自主检索的演进、为什么生产里常需要 Agentic RAG、核心模式(检索即工具、Self-RAG、Adaptive RAG)、多数据源路由、检索-生成-验证循环与成本上限、与普通 RAG 的取舍、评估方式,以及一个可落地的实现骨架逐项讲透,最后给出工程实践与踩坑清单。适合已经把基础 RAG 跑通、正在为效果与稳定性做架构升级的 AI 应用与后端同学。  *图:检索-推理-验证的循环,Agent 自主决定何时检索* ## 一、先建立全局认知 ### Q:从固定流水线 RAG 到 Agentic RAG,检索范式经历了哪几个阶段? A:结论先行——可以概括为四代:**Naive RAG(朴素流水线)→ Advanced RAG(增强流水线)→ Modular RAG(模块化编排)→ Agentic RAG(Agent 自主检索)**。前三代的"控制流"仍由代码写死,第四代把"是否检索、检索什么、要不要再检索"的决策权交给了模型。  *图:RAG 四形态:Agentic 让检索成为可调用工具* ```text Naive : Query ─► 向量检索 ─► 拼接 ─► 生成 ─► Answer (一次检索,固定链条) Advanced : Query ─► 改写/扩展 ─► 混合检索 ─► 重排压缩 ─► 生成 ─► Answer (在链条上加固,但仍是"一条链") Modular : Query ─► [路由] ─► 可选模块(检索/融合/记忆/工具) ─► 编排 ─► 生成 (模块可插拔、可组合,控制流仍由代码决定) Agentic : Query ─► Agent(循环) ├─ 判断:要不要检索? ├─ 选择:查哪个数据源 / 用哪个工具? ├─ 评估:检索结果够不够、对不对? ├─ 决策:换查询再检索 / 收手作答 └─ 校验:答案是否有据? (控制流由模型现场决定,检索成了"可调用工具") ``` 四代的核心差异,用"谁决定下一步"一句话就能区分: | 代际 | 控制流由谁决定 | 检索次数 | 典型能力 | 主要局限 | | --- | --- | --- | --- | --- | | Naive RAG | 代码(固定链条) | 固定一次 | 单跳事实问答 | 多跳、需要对比的问题答不好 | | Advanced RAG | 代码(加固后的链条) | 固定一次(可含多路) | 检索质量更稳 | 仍然是"一锤子买卖",不会自我纠偏 | | Modular RAG | 代码(可组合的图/管道) | 按配置 | 可路由到不同模块 | 路由规则靠人工,难覆盖长尾 | | Agentic RAG | **模型**(现场决策) | 动态 0~N 次 | 多跳、验证、按需选源、自我纠偏 | 延迟与成本上升,需设上限防失控 | 要特别提醒:**这四代不是"后者淘汰前者"的关系。** 大量线上问题用 Advanced RAG 就能解决,且更快更便宜。Agentic RAG 是"当固定流水线表达力不够时"的升级选项,不是默认选项。 ### Q:为什么固定流水线 RAG 在生产里经常"不够用"? A:结论先行——因为固定流水线把"检索策略"写死在代码里,而真实问题的**难度、所需跳数与数据源是变化的**;一个固定策略必然在某些问题上"检索不足",在另一些问题上"检索过度"。 具体表现为五类"力不从心": 1. **多跳问答(Multi-hop QA)**。问题需要"A→B→C"的链式推理,例如"我们上一版方案里提到的那个中间件的社区版最新支持到什么版本"。第一跳只能检索到"方案里提到某中间件",必须拿着这个中间结果**再查一次**才能回答。固定流水线只查一次,第二跳无从发生。 2. **需要多次检索与验证**。答案要横向对比多个文档、或需要确认"这个数字在哪份文件里"。单次检索的 TopN 往往只覆盖其中一部分,且无法"发现还缺证据后补一次"。 3. **需要按需选择数据源**。同一句问题,有的该查向量库(语义),有的该查关键词索引(精确代号),有的该直接查 SQL(数值),有的该查图谱(关系)。固定流水线通常只绑一两个源。 4. **检索质量不稳定时无法自我纠偏**。召回为空、召回跑题、召回的是过期文档——固定流水线拿到什么就用什么,只能"硬着头皮生成",于是出现幻觉或答非所问。 5. **不该检索的也在检索**。常识问题、"你好"、纯计算问题也走一遍检索,既慢又容易引入噪音,反而拉低正确率。 一句话:**固定流水线的问题不在"检索能力不行",而在"不会因问制宜"。** Agentic RAG 要补的就是这个"因问制宜"的决策层。 ### Q:Agentic RAG 的本质是什么?它和"普通 RAG"的分界线划在哪? A:结论先行——本质是**把检索从"流水线里写死的一步"变成"Agent 可以自主调用、可反复调用、可组合调用的一个工具"**;分界线在于"是否由模型决定检索的时机、次数与目标"。 一个精确的类比: ```text 普通 RAG = 开卷考试,但只准翻一次书,且翻哪一页由监考(代码)规定。 Agentic RAG = 开卷考试,考生自己决定翻不翻书、翻哪本、翻几次,还能回头核对。 ``` 但"自主"不等于"放任"。工程上,一个成熟的 Agentic RAG 必须同时具备三样东西,缺一不可: | 要素 | 作用 | 缺失后果 | | --- | --- | --- | | 检索工具化 | 让模型"能调用"检索 | 模型无法自主补检索 | | 反思/评估机制 | 让模型"知道够不够、对不对" | 变成盲目多轮,越查越乱 | | 预算与上限 | 让循环"必须收敛" | 成本翻倍、延迟失控、无限检索 | 所以判断一个系统是不是 Agentic RAG,看三点足够了:**检索是不是模型可见的工具?模型能不能评估检索结果并决定再来一次?循环有没有硬上限?** 只做了第一点、没做后两点,往往得到一个"贵而不准"的版本——这是最常见的伪 Agentic RAG。 ## 二、理解核心机制 ### Q:把检索封装成工具,工具 schema 与返回结构该怎么设计? A:结论先行——schema 设计的目标是**让模型"选得对、传得准"**:工具名与描述说清"什么时候用、用在什么数据上",参数尽量少且语义无歧义,返回结构要**自带证据与定位信息**(来源、片段、可核对的标识),而不是只给一段裸文本。 先看"太粗"与"够用"的两种写法对比: | 设计点 | 粗放写法 | 推荐写法 | | --- | --- | --- | | 工具粒度 | 一个 `search(query)` 查所有源 | 按源/意图拆分:`search_docs`、`search_exact`、`query_metrics` | | 描述 | "搜索知识库" | "在**产品文档**中做语义检索,适用于概念、原理类问题;不适用于精确订单号查询" | | 参数 | `query` 一个字符串 | `query` + 可选的 `top_k`、`source_filter`(枚举)、`time_range`(受限枚举) | | 返回值 | 拼接好的长文本 | 结构化列表:`{source, title, snippet, score, doc_id, updated_at}` | | 定位 | 无 | 带 `doc_id`/锚点,便于模型引用与人工核对 | 一段"检索工具"的 JSON Schema 定义(示意,字段名可按所用框架替换): ```json { "name": "search_product_docs", "description": "在产品文档库中做语义检索。适用于概念、原理、配置说明类问题。不适用于精确的订单号、工单号等唯一标识查询——那类请使用 search_exact。", "parameters": { "type": "object", "properties": { "query": { "type": "string", "description": "检索意图,用自然语言描述,不要直接粘贴用户原话以外的无关内容" }, "top_k": { "type": "integer", "description": "返回条数,默认 5", "minimum": 1, "maximum": 10 }, "doc_type": { "type": "string", "enum": ["guide", "api", "release_note", "faq"], "description": "限定文档类型;不确定时不要传该字段" } }, "required": ["query"] } } ``` 工具执行后返回的结构化结果(示意): ```json { "results": [ { "doc_id": "guide-000123", "title": "配置中心灰度发布", "snippet": "……灰度发布支持按百分比放量……", "score": 0.82, "updated_at": "2026-05-01", "source": "product_docs" } ], "truncated": false, "total_hits": 7 } ``` 关键点与边界: - **描述即提示词**。模型是根据 `description` 决定"要不要用、什么时候用"的。写清"适用/不适用"能显著减少乱检索。 - **枚举要收敛**。`doc_type` 用枚举、`top_k` 用上下界,把模型的自由度限制在安全范围内;否则模型可能生成 `top_k=1000` 之类把上下文打爆。 - **返回要带 provenance(来源出处)**。`doc_id`、`title`、`updated_at` 是后续"答案是否有据"评估与人工复核的基础;只返回一段裸文本,等于放弃了可核查性。 - **边界**:`score` 的尺度取决于检索实现(向量相似度、重排分等),不同源之间**不可直接比较**,不要用它做跨源阈值判断——**需结合具体检索后端确认**。 ### Q:Self-RAG 的"自我反思"到底反思什么? A:结论先行——Self-RAG 的核心是引入**反思(reflection)**:让模型在流程中显式回答三个问题——**需不需要检索(Retrieve)?检索到的内容相不相关(IsRel)?生成的内容有没有被证据支撑(IsSup)?** 并在答案层面判断"有没有用(IsUse)"。 > 说明:Self-RAG 最初是一套**训练 + 推理**的方法(引入特定的反思标记并配合解码策略),具体标记集与解码细节随论文与实现版本而变,**工程落地时需结合所选版本确认**。下面讲的是它可被工程化借鉴的"反思清单",而非要求你去复刻训练细节。 把这三个问题拆成可执行的判断: | 反思点 | 问的问题 | 判断依据(工程近似) | 决策 | | --- | --- | --- | --- | | 是否需要检索 | 这个问题靠模型已有知识能答吗? | 常识/闲聊→否;事实/时效/内部信息→是 | 否:直接生成;是:走检索 | | 检索结果是否相关 | 召回的内容真的对题吗? | 语义相关性判断、关键词覆盖度 | 不相关:改写查询重试或换源 | | 生成是否有据 | 每个关键论断都能在证据里找到吗? | 逐句"支持性"校验 | 无据:标注不确定或回炉重检 | | 答案是否有用 | 是否真正回答了原问题? | 与原问题的相关性判断 | 答非所问:重写或澄清 | 一个常见的落地方式,是把"是否需要检索"做成**前置判断**,"相关/有据"做成**后置校验**:  *图:Agentic RAG 的前置判断与后置自检链路* ```text ┌─────────────── 前置:是否需要检索? 用户问题 ────────┤ └─ 否 ─► 直接生成 ─► 后置:答案是否有据?(内部知识也要自检) └─ 是 ─► 检索 ─► 后置:结果相关吗? ├─ 否 ─► 改写查询/换源(回到检索) └─ 是 ─► 生成 ─► 后置:每个论断有据吗? ├─ 否 ─► 标注不确定/补检索 └─ 是 ─► 输出 ``` 关键点与边界: - **"是否需要检索"是最省钱的一步**,也是收益最大的一步:砍掉不该检索的请求,直接省下检索与扩长的成本。 - **"有据"校验不等于"正确"**。检索到的东西本身可能是错的(文档过期、来源不权威)。有据只保证"答有所依",不保证"依的东西对"。因此"来源权威性/时效性"要作为独立维度。 - **边界**:反思本身也是模型调用,有延迟与成本。反思次数越多越贵;工程上通常对"有据校验"只做**关键论断**,而不是逐字逐句。 ### Q:Adaptive RAG 的"按需路由"是怎么做的? A:结论先行——Adaptive RAG 的思想是**先判断问题难度,再选择匹配的检索策略**:简单问题不检索或单步检索,复杂问题才走多步/多源,从而在"效果"与"成本"之间取得平衡。 典型的三档路由: | 档位 | 适用问题 | 策略 | 相对成本/延迟 | | --- | --- | --- | --- | | 不检索(No Retrieval) | 常识、闲聊、纯改写/纯计算 | 直接生成 | 最低 | | 单步检索(Single-step) | 单事实、单文档可答 | 一次检索 → 生成 | 低 | | 多步检索(Multi-step) | 多跳、对比、需验证 | 多轮检索 + 反思循环 | 最高 | 工程上"难度判断"有两类做法: 1. **训练/使用一个分类器**:用标注数据训练一个小模型或分类器,预测问题属于哪一档。 2. **用 LLM 做零样本路由**:让模型自己回答"这个问题需要检索几次"。 ```text 路由判断的两种实现 方式 A(分类器): Query ─► 小分类器 ─► {no_retrieval | single | multi} 优点:快、便宜、可控;缺点:需要标注数据,长尾覆盖靠迭代 方式 B(LLM 自判): Query ─► LLM 结构化输出 ─► {difficulty, reason} 优点:零标注、灵活;缺点:多一次调用、判断不稳定 生产常见:A 为主(快路径),B 兜底(拿不准或低置信度时升级) ``` 关键点与边界: - **路由错误的两类代价不对称**。"该多步却走了单步"→ 答案错,用户可见;"该单步却走了多步"→ 只是多花钱。所以路由**宁可略偏保守**(倾向多查一点),但要有成本上限兜底。 - **分档不宜过多**。三档通常够用,档位越多规则越多、越难维护。 - **边界**:零样本自判在小模型上不稳定,"是否要检索"的判断准确率会随问题类型漂移,**需用你自己的问题分布实测**,不要照搬某个论文的结论。 ### Q:多数据源(向量 / 关键词 / SQL / 图谱)怎么选?路由怎么落地? A:结论先行——按"问题的**检索意图**"选源,而不是按"哪个库更先进"选源:**语义相似 → 向量;精确匹配/代号 → 关键词;聚合与数值 → SQL;关系推理 → 图谱。** 多个源常常要**组合使用**。 | 数据源 | 最适合的问题 | 不适合的问题 | 输出形态 | | --- | --- | --- | --- | | 向量库(语义检索) | 概念、原理、自然语言描述 | 精确编号、结构化聚合 | 相似片段 + 距离/相似度 | | 关键词索引(如倒排) | 精确术语、错误码、产品型号 | 同义改写、口语化提问 | 匹配文档/条目 + 命中词 | | SQL / 数仓 | 计数、求和、趋势、明细查询 | 模糊语义、无 schema 的自然语言 | 结构化结果集 | | 图谱 | 实体关系、多跳关联、依赖链 | 大段文本、非结构化内容 | 子图/路径/关系列表 | 路由落地的三种方式: 1. **工具并列 + 模型自选**。把每个源做成一个工具,描述写清适用边界,让模型自己选。灵活,但对工具描述质量要求高。 2. **前置分类路由**。先用一个轻量分类器判断意图类别,再调用对应源工具。可控、可观测,适合源多且边界清晰的场景。 3. **混合检索 + 融合**。同一问题同时查向量与关键词,再融合排序(如倒数排名融合)。稳健,但成本翻倍,适合"单源召回不稳"的关键路径。  *图:按意图把问题路由到向量库、关键词索引、SQL 或图谱* ```text 意图 → 数据源 路由示意 问题是 "怎么配置灰度发布" → 语义 → 向量库 问题是 "报错 ERR_5023 什么意思" → 精确 → 关键词索引 问题是 "上个月订单量多少" → 聚合 → SQL 问题是 "A 服务依赖哪些下游" → 关系 → 图谱 问题是 "对比 v1 与 v2 的差异" → 多源 → 向量 + 关键词(融合) ``` 关键点与边界: - **不要指望模型猜对 schema**。SQL 类工具必须由服务端**固定表/字段视图**、参数白名单化(如只允许传枚举维度与时间范围),**绝不让模型自由拼 SQL**——这既是正确性问题,更是安全(SQL 注入/越权)问题。 - **跨源结果不可直接比分数**。向量相似度与关键词 BM25 分数量纲不同,融合前要归一化或改用排名融合。 - **边界**:源越多,工具描述冲突的概率越高(模型选错源)。源超过三四个时,倾向"分层路由"而非"一股脑并列"。 ## 三、检索-生成-验证循环与取舍 ### Q:检索-生成-验证循环怎么设计?步数与成本上限怎么设? A:结论先行——把循环设计成"**有预算的有限状态机**":每轮做"决定动作 → 执行 → 评估 → 决定是否继续",并强制三个上限(**最大轮数、最大检索次数、总 Token/时间预算**),任何上限触达即收手并给出**降级答案**。 一个可用的循环骨架(伪代码,展示控制流): ```python # 伪代码:检索-生成-验证循环,含硬性预算,不可直接照搬。 MAX_ITERS = 4 # 循环轮数上限 MAX_SEARCHES = 6 # 检索调用总次数上限 MAX_TOKENS = 40000 # 输入 Token 预算上限 def agentic_answer(question: str) -> dict: state = {"iters": 0, "searches": 0, "tokens": 0, "evidence": []} while state["iters"] < MAX_ITERS: state["iters"] += 1 # 1. 决定下一步动作(模型输出结构化决策) plan = llm_plan(question, state["evidence"], remaining={"searches": MAX_SEARCHES - state["searches"], "tokens": MAX_TOKENS - state["tokens"]}) # plan ∈ {search(工具,查询), answer, clarify} if plan.action == "answer": draft = llm_generate(question, state["evidence"]) if verify_grounded(draft, state["evidence"]): # 有据校验 return {"answer": draft, "traced": state["iters"]} # 无据:补一轮检索,而不是直接输出 continue if plan.action == "clarify": return {"answer": "需要补充信息:" + plan.question, "traced": state["iters"]} # 2. 执行检索(受预算约束) if state["searches"] >= MAX_SEARCHES: break # 触顶:停止检索 result = call_tool(plan.tool, plan.query) state["searches"] += 1 state["tokens"] += estimate_tokens(result) state["evidence"].extend(result["results"]) # 3. 评估:结果是否相关?不相关则改写查询,避免重复无效检索 if not is_relevant(plan.query, result["results"]): state["evidence"].append({"note": "irrelevant", "query": plan.query}) # 4. 预算耗尽:降级作答,并如实说明不确定性 draft = llm_generate(question, state["evidence"]) return {"answer": draft, "degraded": True, "traced": state["iters"]} ``` 关键点与边界: - **上限要"多维度"**。只限轮数不够——一轮里可能查十次。轮数、检索次数、Token/时间预算要一起设。 - **必须有降级路径**。触顶时给"基于现有证据的回答 + 不确定性说明",比抛异常或空手而归体验好得多;但**要显式标记 `degraded`**,便于观测与后续优化。 - **防重复检索**。记录已检索过的查询,命中重复的查询直接跳过(或强制改写),否则模型会在同一个查询上打转。 - **决策要结构化**。让模型输出 `{action, tool, query}` 这类结构化字段,而不是自由文本,便于代码分支与校验(也便于用结构化输出能力强约束)。 - **边界**:这是"能收敛"的最小骨架,未含并发、缓存、多租户隔离、指标埋点。生产还需:决策日志留证、`trace` 全链路可回放、按用户限流。 ### Q:Agentic RAG 和普通 RAG 到底怎么选?取舍在哪? A:结论先行——**普通 RAG 胜在快、便宜、可控、可预测;Agentic RAG 胜在能处理多跳、可自我纠偏、能按需选源,但代价是延迟、成本与不确定性的上升。** 默认用普通 RAG,只在"问题确实需要"时才升级。 对照表(差异为**定性**判断,具体倍数取决于实现与流量结构,**需以自身压测为准**): | 维度 | 普通 RAG(固定流水线) | Agentic RAG(自主检索) | | --- | --- | --- | | 延迟 | 低且稳定(一次检索 + 一次生成) | 高且波动大(取决于轮数) | | 成本 | 低、可预估 | 高、随问题难度波动 | | 可控性 | 高(链路固定,易调试) | 低(路径由模型决定,需强约束) | | 多跳能力 | 弱 | 强 | | 自我纠偏 | 无 | 有(可改写查询、换源、补检索) | | 按需选源 | 需人工路由 | 模型可自主选 | | 可观测性 | 简单(一条链) | 复杂(需记录决策轨迹) | | 失败模式 | 召回为空/跑题 | 上述 + 循环不收敛、检索滥用 | | 适用场景 | FAQ、单跳事实问答、高 QPS 通用问答 | 多跳分析、多源融合、专业助手、低 QPS 高价值任务 | 一个务实的落地策略是**分层**:  *图:两层策略:普通 RAG 打底,难问题才升级 Agentic* ```text 分层策略(推荐) 第一层:普通 RAG(覆盖大部分请求,快而省) │ 触发升级的信号: │ - 问题含多实体/比较/时间链(需要多跳) │ - 单次检索召回为空或低置信 │ - 需要跨源(文档 + 数值 + 关系) ▼ 第二层:Agentic RAG(只处理升级上来的请求,贵但准) │ └─ 硬性预算兜底:无论多难,最多 N 轮 / M 次检索 ``` 关键点与边界: - **不要让 100% 的流量走 Agentic。** 高频简单问题会被拖慢并变贵,是"用战术上的勤奋掩盖战略上的偷懒"。 - **升级信号要可观测**。把"为什么升级"记下来(多跳、空召回、跨源),才能持续优化阈值。 - **边界**:Agentic 的"更准"是有前提的——工具描述清晰、评估机制可靠、预算合理。这三点没做好,Agentic 反而可能比普通 RAG 更差。 ## 四、评估方式 ### Q:Agentic RAG 该评估哪些维度?为什么只看最终答案不够? A:结论先行——只看最终答案会**掩盖问题出在"检索"还是"生成"**;Agentic RAG 至少要评四个维度:**检索是否必要、检索是否到位、答案是否有据、多跳是否成功**。 | 评估维度 | 回答的问题 | 常见做法(示意) | 只看最终答案的盲区 | | --- | --- | --- | --- | | 检索必要性 | 该检索的检索了吗?不该的没检索吗? | 统计"该检索未检索/不该检索却检索"的比例 | 无法发现检索滥用(成本翻倍却无收益) | | 检索质量 | 召回到该有的证据了吗? | 上下文命中/召回类指标(如命中率、召回覆盖) | 答案对了但证据是错的(蒙对) | | 答案有据 | 每个论断能在证据里找到吗? | "支持性/忠实度"类评估(faithfulness 思路) | 答案流畅但无据,等于高级幻觉 | | 多跳成功率 | 多跳问题走通了吗? | 在带链式推理标注的数据上评成功率 | 单跳指标好看,多跳一塌糊涂 | | 过程效率 | 用了几轮、几次检索、多少 Token? | 记录轨迹分布(轮数直方图、检索次数) | 效果达标但成本失控 | > 说明:具体指标名与算法(如常见的忠实度、答案相关性、上下文精确率/召回率等思路,以及 RAGAS 之类框架的实现)**随框架与版本变化,需结合所选工具确认**,不要照搬某个版本的默认口径。 评估要抓住三个"分层次"原则: 1. **分阶段评**。把"检索阶段"和"生成阶段"分开评,才能定位瓶颈。检索评召回的"有没有",生成评答案的"对不对、有没有据"。 2. **过程与结果都要评**。结果指标(答案正确性)之外,必须加过程指标(轮数、检索次数、Token),否则优化会以"成本失控"为代价。 3. **建自己的问题分布集**。多跳、需对比、需跨源、不该检索的反例,都要覆盖。只用公开单跳问答集,会**系统性高估** Agentic RAG 的收益。  *图:分层评估:检索、生成、过程三段指标定位问题* ```text 分层评估定位问题 检索阶段 ──► 上下文命中 / 召回覆盖 ──► 低? → 修检索(切分/嵌入/重排/路由) └─ 高? ↓ 生成阶段 ──► 答案准确 / 有据(忠实) ──► 低? → 修生成(提示词/模型/证据组织) 过程阶段 ──► 轮数 / 检索次数 / Token ──► 高? → 收紧预算或优化路由 ``` ## 五、工程实践骨架与踩坑 ### Q:一个"检索工具 + 反思循环"的实现骨架长什么样? A:结论先行——骨架由四部分组成:**工具注册层(含清晰 schema)→ 决策层(结构化输出)→ 执行与反思层(含预算)→ 观测层(轨迹留证)**。下面给出结构示意。  *图:Agentic RAG 的四层骨架* ```text Agentic RAG 组件骨架 ┌────────────────────────────────────────────────┐ │ 决策层 (LLM) │ │ 输入: 问题 + 已有证据摘要 + 剩余预算 │ │ 输出(结构化): {action, tool?, query?, reason} │ └───────────────┬────────────────────────────────┘ │ ┌───────────────▼────────────────────────────────┐ │ 工具注册层 │ │ search_docs / search_exact / query_metrics / │ │ graph_lookup —— 每个工具: 名称+边界描述+受限参数 │ └───────────────┬────────────────────────────────┘ │ ┌───────────────▼────────────────────────────────┐ │ 执行与反思层 │ │ 执行检索 → 相关性评估 → 有据校验 → 是否继续? │ │ 预算: MAX_ITERS / MAX_SEARCHES / TOKEN_BUDGET │ └───────────────┬────────────────────────────────┘ │ ┌───────────────▼────────────────────────────────┐ │ 观测层 │ │ 轨迹(trace): 每轮 action/query/耗时/命中/Token │ └────────────────────────────────────────────────┘ ``` 落地清单(可直接对照实现): 1. **工具描述写"适用/不适用"两段**,并放入真实反例,减少选错源。 2. **决策输出用结构化格式**(如 JSON Schema 约束),字段越少越好,便于代码分支与校验。 3. **每一步都记账**:轮数、检索次数、Token、耗时,超预算即降级。 4. **去重已检索查询**,避免原地打转。 5. **记录完整轨迹**并可按 `request_id` 回放,这是排查"为什么查了五次"的唯一依据。 6. **降级答案显式标记**,并给用户"信息可能不完整"的提示。 ### Q:这一块最容易踩的坑有哪些? A:结论先行——Agentic RAG 的坑集中在"**成本失控、循环不收敛、工具描述不清、评估失真、缓存与时效冲突**"五类,逐条对照如下。 **坑一:检索滥用导致成本翻倍。** 模型对每个问题都先检索一遍,甚至检索多次。对策:做"是否检索"的前置判断 + 硬性检索次数上限 + 高频简单问题走快路径。 **坑二:循环不收敛。** 模型反复改写查询、反复检索,却越来越偏。对策:设轮数/次数上限;记录已检索查询并去重;对"连续两轮无新增有效证据"直接收手。 **坑三:工具描述不清导致乱检索。** 描述只写"搜索知识库",模型会拿它去查订单号。对策:写清适用与不适用边界;源多时改用分层路由。 **坑四:评估只看最终答案。** 结果好就以为系统好,实则成本已翻倍、证据质量在下降。对策:结果 + 过程一起评,分阶段定位瓶颈。 **坑五:缓存与时效冲突。** 为了省钱给检索结果或答案加缓存,但被缓存的内容可能已过期(尤其"最新版本""当前库存"这类问题)。对策:时效敏感查询**绕过或短 TTL**;缓存键带上数据版本/更新时间。 **坑六:把 SQL/通配查询交给模型自由拼。** 既是正确性风险也是越权风险。对策:服务端固定视图 + 参数白名单,模型只传枚举维度。 **坑七:证据直接拼接、不做组织。** 多轮检索回来越积越多,最后把上下文塞满噪音。对策:对证据做去重、裁剪、按相关性排序,控制总量。 **坑八:跨源分数直接比较。** 向量分与关键词分数量纲不同,直接排序会选错源。对策:归一化或改用排名融合。 **坑九:反思校验形同虚设。** "有据校验"只问一句"你有把握吗",模型倾向说"有"。对策:把校验拆成**逐论断的"支持性"判断**,并要求给出证据 id;判不出就标不确定。 **坑十:低置信度路由不稳定。** 用 LLM 零样本判断难度,随问题类型漂移。对策:用自有问题分布实测阈值;不确定时倾向升级到多步(宁多花一点,别答错)。 一句话沉淀:**Agentic RAG 的难点不在"让它会检索",而在"让它知道何时该停"。** 把预算、去重、降级、可观测这四件事做扎实,比多接一个数据源更有价值。 ## 小结 - RAG 四代:Naive → Advanced → Modular → **Agentic**;前三代控制流写死在代码里,第四代把检索决策交给模型。 - 固定流水线"不够用"的根因是**不会因问制宜**:多跳、多源、需验证、需纠偏、不该检索时都处理不好。 - Agentic RAG 的本质是**把检索变成 Agent 可自主调用的工具**;它与普通 RAG 的分界线是"是否由模型决定检索的时机、次数与目标"。 - 三大核心模式:**检索工具化**、**Self-RAG 式反思**(是否检索 / 是否相关 / 是否有据 / 是否有用)、**Adaptive RAG 式路由**(按难度分档)。 - 多数据源按**检索意图**选:语义→向量、精确→关键词、聚合→SQL、关系→图谱;跨源分数不可直接比较。 - 循环必须是**有预算的有限状态机**:轮数、检索次数、Token/时间三重上限 + 降级答案。 - 与普通 RAG 的取舍:普通 RAG 快省可控,Agentic 适应多跳与纠偏,代价是延迟与成本;推荐**分层**,只让升级上来的请求走 Agentic。 - 评估要**分阶段、过程与结果并重**:检索必要性、检索质量、答案有据、多跳成功率、过程效率。 - 核心风险:检索滥用、循环不收敛、工具描述不清、评估失真、缓存与时效冲突。 ## 思考题 1. 你的业务问题里,多跳/对比/跨源的比例大概是多少?如果只有 5%,引入完整 Agentic RAG 的收益能覆盖它的延迟与成本吗? 2. "是否需要检索"这一步如果判断错了,两类错误的代价并不对称。你会把阈值调向哪一边,为什么? 3. 如果只允许你上一项优化来降低成本,你会选手写路由、前置判断,还是缓存?各自的副作用是什么? 4. 反思校验要"逐论断给出证据 id",这会增加多少调用与延迟?你会如何取舍校验粒度? 5. 请设计一个能同时覆盖"多跳""不该检索的反例""跨源"的自有问题集,并说明每个维度打算怎么打分。
预览
发布文章
添加摘要让读者更快了解文章内容
取消
确认发布
AI 写作助手
输入一个主题,AI 将为你生成一篇 Markdown 博客文章
AI 正在写作中...
取消
开始生成
AI 优化助手
描述你的修改需求,AI 将在原文基础上进行补充或微调
AI 正在优化中...
取消
开始优化
画布
从已有图里选
✕
图名
保存后生成 /images/excalidraw/<图名>.svg(只能用字母、数字、短横线、下划线、点)
取消
保存并插入