知序
返回
保存草稿
发布
H1
H2
H3
1
2
3
Excalidraw 图
AI 写作
AI 优化
目录
输入内容后显示目录
Markdown
# RAG 系统知识思维导图 > 导读:本文从"RAG 的知识点散落在十几篇文章里,复习和面试时抓不住主线"这个具体痛点出发,把整张 RAG 知识地图用树形结构还原出来,再按"全局认知 → 核心机制 → Advanced RAG → 评估优化 → 工程实践"逐项讲透,最后给出技术选型速查与优化优先级。适合准备面试或想系统梳理 RAG 全貌的同学。 ## 一、先建立全局认知 ### Q:有没有一张能一眼看全 RAG 的知识地图? A:结论先行——有。下面这张树形图把 RAG 从"概述"到"工程实践"的全部知识点归纳成一个整体,后面的每一节都是对它某一个分支的展开。  *图:RAG 系统知识思维导图:十大板块与常见问题* ```text RAG 系统 ├── 概述 │ ├── 定义 │ │ ├── 检索增强生成 │ │ └── 给 LLM 开卷考试 │ ├── 解决的问题 │ │ ├── 知识截止日期 │ │ ├── 幻觉问题 │ │ ├── 私有数据访问 │ │ └── 上下文窗口有限 │ ├── 核心流程 │ │ ├── 离线阶段 │ │ │ ├── 文档加载 │ │ │ ├── 分块 Chunking │ │ │ ├── 向量化 Embedding │ │ │ └── 存入向量数据库 │ │ └── 在线阶段 │ │ ├── Query 向量化 │ │ ├── 相似度检索 │ │ ├── 构造 Prompt │ │ └── LLM 生成回答 │ └── RAG vs 微调 vs 长上下文 │ ├── RAG 成本低 知识实时更新 │ ├── 微调 改变模型行为 成本高 │ └── 长上下文 少量文档深度理解 ├── 文档处理与分块 │ ├── 文档加载 │ │ ├── PDF / Word / 网页 / 数据库 │ │ └── LangChain Loaders │ ├── 分块策略 │ │ ├── 固定大小分块 │ │ │ ├── chunk_size 500~1000 │ │ │ └── chunk_overlap 10%~20% │ │ ├── 递归字符分块 推荐默认 │ │ │ └── 按段落→句子→字符优先级 │ │ ├── 语义分块 │ │ │ ├── 相邻句子 Embedding 相似度 │ │ │ └── 语义边界处切割 │ │ └── 结构化分块 │ │ ├── Markdown 按标题层级 │ │ └── 代码按函数/类 │ └── 元数据 │ ├── 来源 / 时间 / 类别 │ └── 辅助过滤提高精度 ├── Embedding 向量化 │ ├── 原理 │ │ ├── 文本→固定长度向量 │ │ └── 语义相近距离近 │ ├── 相似度计算 │ │ ├── 余弦相似度 最常用 │ │ ├── 欧氏距离 │ │ └── 点积 │ ├── 主流模型 │ │ ├── OpenAI text-embedding-3-small 商用推荐 │ │ ├── BGE-large-zh 中文推荐 │ │ └── Jina-embeddings-v2 长文本 │ └── 微调 │ ├── 领域专业术语理解更准 │ ├── 需要标注数据 + GPU │ └── 垂直领域效果提升 5%~15% ├── 向量数据库 │ ├── 索引算法 │ │ ├── Flat 暴力搜索 精确但慢 │ │ ├── IVF 聚类后搜索 │ │ ├── HNSW 多层图 主流推荐 │ │ └── PQ 压缩存储 超大规模 │ └── 主流选型 │ ├── Chroma 学习/原型 │ ├── FAISS 离线计算 │ ├── Milvus 大规模生产 │ ├── Qdrant 中小规模生产 │ ├── Pinecone 全托管 │ └── pgvector 已有 PG 的项目 ├── 检索策略 │ ├── 稠密检索 │ │ └── 向量相似度 理解语义 │ ├── 稀疏检索 BM25 │ │ └── 关键词匹配 精确匹配强 │ ├── 混合检索 推荐 │ │ ├── 稠密 + 稀疏结合 │ │ └── RRF 融合算法 │ ├── 重排序 Reranker │ │ ├── Cross-Encoder 精排 │ │ └── 初步检索 Top-20 精排 Top-5 │ └── 元数据过滤 │ └── 按用户/时间/类型过滤 ├── Prompt 工程与生成 │ ├── Prompt 结构 │ │ ├── System Prompt 角色设定 │ │ ├── Context 检索到的文档 │ │ ├── Question 用户问题 │ │ └── Instructions 回答要求 │ ├── 减少幻觉 │ │ ├── 明确指令只基于文档回答 │ │ ├── 不确定就说不知道 │ │ ├── 要求引用来源 │ │ └── 降低 temperature │ ├── 上下文管理 │ │ ├── Lost in the Middle 问题 │ │ ├── 重要内容放开头或结尾 │ │ └── 限制 Top-K │ └── 多轮对话 │ ├── Query 改写补全上下文 │ └── 保持对话历史 ├── Advanced RAG │ ├── Query 改写 ── 表述不佳时优化 │ ├── Multi-Query ── 多角度生成多个查询 │ ├── HyDE ── 先生成假设回答再检索 │ ├── Parent Document Retriever ── 小块检索 大块返回 │ ├── Self-RAG │ │ ├── 自判断是否需要检索 │ │ └── 自验证回答是否有依据 │ ├── Graph RAG │ │ ├── 实体关系知识图谱 │ │ └── 多跳推理 │ └── Agentic RAG ── Agent 自主决定检索策略 ├── 评估与优化 │ ├── 检索评估指标 │ │ ├── Recall@K 召回率 │ │ ├── Precision@K 精确率 │ │ ├── MRR 平均倒数排名 │ │ └── Hit Rate │ ├── 生成评估指标 │ │ ├── Faithfulness 忠实度 最重要 │ │ ├── Answer Relevancy 回答相关性 │ │ └── Context Recall 上下文召回 │ ├── RAGAS 框架 │ │ ├── 自动化评估 │ │ └── 需要 ground_truth │ └── 优化顺序 │ ├── 分块策略 │ ├── Embedding 模型 │ ├── 检索策略 │ ├── Prompt 优化 │ └── 生成优化 ├── 工程实践 │ ├── 主流框架 │ │ ├── LangChain 生态最大 灵活 │ │ ├── LlamaIndex 专注数据索引 │ │ └── Dify 低代码平台 │ ├── 生产架构 │ │ ├── API Gateway 认证限流 │ │ ├── RAG Service 核心逻辑 │ │ ├── Vector DB 向量存储 │ │ ├── LLM API 生成 │ │ └── Cache Redis 缓存 │ └── 关键设计 │ ├── 语义缓存 相似问题命中 │ ├── 异步索引 不阻塞请求 │ ├── 增量更新 不全量重建 │ └── 监控告警 延迟/Token/错误率 └── 常见问题与最佳实践 ├── 检索不到相关文档 │ ├── 调整分块策略 │ ├── 换更好的 Embedding │ ├── 加入混合检索 │ └── Query 改写 ├── 回答有幻觉 │ ├── Prompt 强调只基于文档 │ ├── 降低 temperature │ └── 加引用要求 ├── 延迟太高 │ ├── 流式输出 │ ├── 缓存热门问题 │ └── 减少 Top-K └── 成本太高 ├── 减少 Top-K ├── 上下文压缩 ├── 模型路由 └── 缓存减少调用 ``` 这张图有 10 个一级分支、约 40 个二级分支。**复习时不要从第一个背到最后一个**,而是先抓住"概述"和"评估优化"两条主线,再看中间实现细节。 ### Q:RAG 的核心流程到底是什么? A:结论先行——**两条流程:离线做索引、在线做问答**;索引是"一次投入、多次复用",问答是"每次请求都要走一遍"。  *图:RAG 两条主链路:离线索引与在线查询* ```text 离线索引:文档 → 分块 → Embedding → 向量数据库 在线查询:问题 → Embedding → 检索 → Prompt → LLM → 回答 ``` 为什么要把它们分成两条?因为两者的性能诉求完全相反:离线索引慢一点没关系(可以批量、异步、夜间跑),但在线查询必须在秒级内返回。所以架构上必须把离线链路和在线链路解耦,中间靠向量数据库连接。 ### Q:RAG、微调、长上下文,三者怎么选? A:结论先行——**要注入大量、频繁更新的知识选 RAG;要改变模型的风格/格式/能力选微调;要深度理解少量文档可用长上下文**。 ```text RAG → 成本低、知识实时更新 微调 → 改变模型行为、成本高 长上下文 → 少量文档的深度理解 ``` 三者的本质差异: | 维度 | RAG | 微调 | 长上下文 | |---|---|---|---| | 知识更新 | 改知识库即可,实时 | 要重新训练,慢 | 改输入即可 | | 成本 | 低 | 高(数据 + GPU) | 中(按 token 计费) | | 是否改变模型行为 | 否 | 是 | 否 | | 适用知识量 | 大 | 中 | 小(受窗口限制) | 实践中最常见的组合是 RAG + 微调:用微调让模型学会"如何规范地回答",用 RAG 提供"回答所需的实时知识"。 ### Q:这张知识地图,实际怎么用? A:结论先行——把它当"导航"用:**遇到问题时先在图上定位分支,再往下查细节;复习时按一级分支自测**。 两种用法:  *图:知识脑图两用法:排障定位与面试自述复习* ```text 用法一:问题定位(排障) "答错了" → 先看是哪个分支的问题 ├─ 检索结果里没有正确文档 → 查"检索策略""文档处理与分块"分支 ├─ 有文档但答得不对 → 查"Prompt 工程与生成"分支 └─ 答对了但太慢 → 查"工程实践 → 关键设计"分支 用法二:体系复习(面试) 遮住二级分支,只看 10 个一级分支,逐个自述核心要点 说不出来的分支,就是你的薄弱项 ``` 为什么"先定位分支"这么关键?因为 RAG 的失败原因分布在链路的不同环节,只有在正确环节上使力,改动力才有意义。盲目地在整个系统里"四处加料",往往既费钱又不见效。 ### Q:这张图的"主干"是什么?为什么这几个分支排在最前面? A:结论先行——主干是**"离线索引 + 在线问答"两条流程**;排在前面的分支正是构成这两条流程的环节。 如果把图重新拉直成一条线,就是 RAG 的执行顺序:  *图:十个一级分支:离线侧、在线侧与贯穿始终* ```text 文档处理与分块 → Embedding 向量化 → 向量数据库(离线侧,建好索引) ↓ 检索策略 → Prompt 工程与生成(在线侧,一次问答) ↓ 评估与优化 → 工程实践(贯穿始终的质量与运维保障) ``` 所以一级分支的顺序不是随意排的,而是**沿着数据流动的方向**:先处理"知识从哪来"(文档、Embedding、向量库),再处理"问题怎么答"(检索、Prompt),最后是"怎么保证一直答得好"(评估、工程、常见问题)。 理解这条主线后,你会发现 Advanced RAG 其实就是插在这条链路各个位置上的"增强件":Query 改写插在检索前,Reranker 插在检索后,Self-RAG 插在生成前后。 ## 二、理解核心机制 ### Q:文档处理与分块有哪些策略?默认该选哪个? A:结论先行——**四种分块策略:固定大小、递归字符、语义、结构化;默认推荐递归字符分块**。 ```text 固定大小分块:chunk_size 500~1000、chunk_overlap 10%~20% 递归字符分块:按段落 → 句子 → 字符的优先级递归切分(推荐默认) 语义分块:用相邻句子的 Embedding 相似度判断语义边界,在边界处切 结构化分块:Markdown 按标题层级、代码按函数/类 ``` 为什么递归字符分块是默认首选?因为它**在"简单"和"尊重语义"之间取得了最好平衡**:不需要额外模型就能大致沿着段落/句子边界切,成本低、效果稳。语义分块更精细,但要额外算 Embedding,成本高,通常只在质量要求极高时才上。 分块之外,**元数据**同样重要:给每个 chunk 打上来源、时间、类别,才能支撑后续的过滤与溯源。 ### Q:Embedding 的原理、相似度算法和主流模型是什么? A:结论先行——**Embedding 把文本映射成固定长度向量,让语义相近的内容距离近;相似度计算以余弦相似度最常用**。 ```text 原理:文本 → 固定长度向量;语义相近 → 向量距离近 相似度:余弦相似度(最常用)/ 欧氏距离 / 点积 ``` 主流模型(原文列出的三类代表): | 模型 | 定位 | |---|---| | OpenAI text-embedding-3-small | 商用推荐 | | BGE-large-zh | 中文推荐 | | Jina-embeddings-v2 | 长文本 | **Embedding 微调**是一条进阶路线:能让模型更好地理解领域专业术语,但需要标注数据 + GPU,原文给出的经验是"垂直领域效果提升 5%~15%"。是否值得做,要权衡数据准备成本。 ### Q:向量数据库怎么选?索引算法有哪些? A:结论先行——**算法看规模:小数据用 Flat、主流用 HNSW、超大规模用 IVF/PQ;选型看场景:原型用 Chroma、大规模生产用 Milvus、已有 PG 用 pgvector**。 ```text 索引算法: Flat 暴力搜索 精确但慢 IVF 聚类后搜索 HNSW 多层图 主流推荐 PQ 压缩存储 超大规模 ``` 选型对照:  *图:六种向量数据库的适用场景对照* ```text Chroma → 学习 / 原型 FAISS → 离线计算 Milvus → 大规模生产 Qdrant → 中小规模生产 Pinecone → 全托管 pgvector → 已有 PostgreSQL 的项目 ``` 为什么 HNSW(Hierarchical Navigable Small World,分层可导航小世界图)是"主流推荐"?因为它在召回率和查询速度之间取得了很好的平衡,并且不需要像 IVF 那样先训练聚类中心,开箱即用。 ### Q:检索策略有哪些?为什么推荐混合检索? A:结论先行——**稠密检索懂语义、稀疏检索(BM25)懂关键词,两者互补,所以混合检索是推荐默认**。 ```text 稠密检索:向量相似度,理解语义 稀疏检索 BM25:关键词匹配,精确匹配强 混合检索(推荐):稠密 + 稀疏结合,用 RRF 融合算法 重排序 Reranker:Cross-Encoder 精排,初步检索 Top-20 → 精排 Top-5 元数据过滤:按用户 / 时间 / 类型过滤 ``` **RRF(Reciprocal Rank Fusion,倒数排名融合)** 的直觉是:不直接比较两种检索的分数(量表不同),而是看每个文档在各自榜单里的排名,排名越靠前贡献越大,再合并排序。 **Reranker(重排序器)** 用的是 Cross-Encoder(交叉编码器):把"问题 + 文档"拼在一起送进模型打分,精度远高于分别编码的 Bi-Encoder,但慢得多,所以只对初步检索的 Top-20 精排。 ### Q:Prompt 怎么组装?怎么减少幻觉? A:结论先行——**Prompt 四件套"角色 + 上下文 + 问题 + 指令",减少幻觉靠"只基于文档 + 不确定就说不知道 + 要求引用 + 降 temperature"**。 ```text Prompt 结构: System Prompt 角色设定 Context 检索到的文档 Question 用户问题 Instructions 回答要求 减少幻觉: 明确指令只基于文档回答 不确定就说不知道 要求引用来源 降低 temperature ``` **上下文管理**有一个关键现象——**Lost in the Middle(中间信息丢失)**:模型对长上下文中段的信息利用效率低。对策是把重要内容放在开头或结尾,并限制 Top-K 不让上下文过长。**多轮对话**则要靠 Query 改写补全上下文(解决"它""这个"的指代问题)。 ### Q:把"文档 → 向量 → 检索 → 生成"这一整条链路串起来,各环节最容易出错的地方在哪? A:结论先行——每个环节都有"经典坑":分块切断语义、Embedding 不懂领域、检索掺噪声、生成不守约束。  *图:五个环节的典型坑与对应对策* ```text 文档处理与分块:坑 = 把完整答案切成两半 → 对策:调大 chunk_size / 用语义分块 Embedding: 坑 = 通用模型不懂领域术语 → 对策:换领域模型 / 微调 Embedding 向量数据库: 坑 = 索引参数不当,召回或速度不达标 → 对策:选 HNSW / 调参 检索策略: 坑 = 单纯向量召回漏关键词 → 对策:混合检索 + Reranker Prompt 与生成: 坑 = 没有约束导致幻觉 → 对策:只基于文档 + 引用 + temperature=0 ``` 一个实用的记忆法是"**数据看分块、语义看 Embedding、排序看检索、可信看 Prompt**"——四句话分别对应四类典型故障的排查入口。 ## 三、Advanced RAG ### Q:Advanced RAG 有哪些进阶技术?分别解决什么问题? A:结论先行——**Query 改写 / Multi-Query / HyDE 优化"问"这一侧,Parent Document Retriever 优化"取"这一侧,Self-RAG / Graph RAG / Agentic RAG 优化"判"与"编排"**。  *图:七种进阶技术:从 Query 改写 到 Agentic RAG* ```text Query 改写 → 表述不佳时优化问题 Multi-Query → 多角度生成多个查询 HyDE → 先生成假设回答再检索 Parent Document Retriever → 小块检索、大块返回 Self-RAG → 自判断是否需要检索、自验证回答是否有依据 Graph RAG → 实体关系知识图谱、多跳推理 Agentic RAG → Agent 自主决定检索策略 ``` 逐个理解它们解决的问题: - **Query 改写**:用户问得潦草时,先让 LLM 把它改写清楚再检索。 - **Multi-Query**:一个问题生成多个变体,分别检索后合并,提高召回。 - **HyDE(Hypothetical Document Embeddings,假设文档嵌入)**:先让 LLM 生成一个"假设答案",再用这个答案的向量去检索——因为"答案"和"真实文档"的语义分布更接近,比用"问题"去检索更准。 - **Parent Document Retriever**:用小块做检索(精度高),返回其父块(上下文完整),兼顾"准"和"全"。 - **Self-RAG**:让模型自己判断"这个问题需不需要检索""我的回答有没有依据"。 - **Graph RAG**:把文档组织成实体—关系图谱,支持多跳推理(适合" A 和 B 的关系是什么"这类问题)。 - **Agentic RAG**:把检索交给 Agent 自主规划,能应对复杂、多步的问题。 ### Q:Advanced RAG 的技术该怎么排序、按什么顺序上? A:结论先行——**按"投入产出比"排序:Query 改写 / Parent Document → Multi-Query / HyDE → Self-RAG → Graph / Agentic**。 ```text 第一梯队(低成本高收益): Query 改写、Parent Document Retriever → 改动局部、见效明显 第二梯队(中等成本): Multi-Query、HyDE → 增加 LLM 调用,但提升召回 第三梯队(高成本、特定场景): Self-RAG、Graph RAG、Agentic RAG → 解决特定问题,但增加复杂度和不稳定风险 ``` 判据很简单:**先用改动小的方案解决 80% 的问题,再考虑重方案**。Graph RAG 适合"多跳关系"类问题,Agentic RAG 适合"多步、需工具"类问题——如果你的业务根本没有这类问题,上了反而是负担。 ## 四、评估与优化 ### Q:评估要测哪些指标?优化该按什么顺序? A:结论先行——**检索侧看 Recall@K / Precision@K / MRR / Hit Rate,生成侧看 Faithfulness / Answer Relevancy / Context Recall;优化顺序是分块 → Embedding → 检索 → Prompt → 生成**。 ```text 检索评估指标:Recall@K、Precision@K、MRR、Hit Rate 生成评估指标:Faithfulness(最重要)、Answer Relevancy、Context Recall RAGAS 框架:自动化评估,需要 ground_truth ``` ```text 优化优先级: 1. 分块策略(基础) 2. Embedding 模型(地基) 3. 混合检索 + Reranker(检索质量) 4. Prompt 优化(生成质量) 5. 缓存 + 异步(性能) ``` 为什么是这个顺序?因为它是**从上游到下游、从质量到性能**:分块决定了"信息在不在"(最上游、影响最大),Embedding 决定了"能不能找到",检索策略决定"找得准不准",Prompt 决定"答得好不好",缓存异步是最后才需要考虑的性能问题。**顺序颠倒是新手最常见的错误**。 ### Q:为什么"优化顺序"里分块和 Embedding 排在检索策略之前? A:结论先行——因为分块和 Embedding 决定"信息在不在、能不能被表征",是**上游的地基**;检索策略只是"在已有表征上做选择"。  *图:分块与 Embedding 是上游,检索策略是下游* ```text 分块不对 → 答案被切断,再好的检索也找不到 → 上游 Embedding 弱 → 语义匹配不准,检索策略再花哨也是废的 → 上游 检索策略 → 在既定 chunk 与向量上做召回/排序 → 下游 ``` 一个类比:分块和 Embedding 决定了"图书馆里有没有这本书、书的索引卡写得准不准",检索策略只是"用什么方法去书架上翻"。**索引卡本身错了,翻得再快也没用**。所以顺序不能颠倒,越靠上游的改动越应该优先做对、做稳。 ### Q:为什么检索指标和生成指标要分开看,而不是合成一个总分? A:结论先行——因为**合成一个总分就没法定位问题**,而定位才是评估的首要目的。  *图:合成总分无法行动,拆开指标才定位到改什么* ```text 合成总分: 0.78 → 到底该改什么?不知道 → 无法行动 分开看: Context Recall 0.62(低)→ 检索漏信息 → 改检索 Faithfulness 0.93(高) → 生成忠实 → 不用动 → 行动明确 ``` 分数量表的差异也是一个现实原因:检索指标和生成指标的单位、含义、取值范围都不同,硬加权相加需要人为设定权重,而权重的选择本身就带着主观性,反而降低了可比性。 所以实践中的做法是**"分级看"**:先看检索(地基),检索达标再看生成(表现)。这比一个模糊的总分有用得多。 ## 五、工程实践 ### Q:主流框架和生产架构怎么搭? A:结论先行——**框架按"灵活 vs 开箱即用"选,生产架构是"一条在线链路 + 一条离线链路",关键设计是缓存、异步、增量更新、监控**。 ```text 主流框架: LangChain 生态最大、灵活 LlamaIndex 专注数据索引 Dify 低代码平台 生产架构: API Gateway 认证限流 RAG Service 核心逻辑 Vector DB 向量存储 LLM API 生成 Cache Redis 缓存 ``` ```text 关键设计: 语义缓存 相似问题命中 异步索引 不阻塞请求 增量更新 不全量重建 监控告警 延迟 / Token / 错误率 ``` ### Q:常见问题怎么快速对症? A:结论先行——**检索不到就"改分块 + 换 Embedding + 混合检索 + Query 改写";有幻觉就"强约束 Prompt + 降 temperature + 加引用";延迟高就"流式 + 缓存 + 减 Top-K";成本高就"减 Top-K + 压缩 + 路由 + 缓存"**。 ```text 检索不到相关文档:调整分块策略 / 换更好的 Embedding / 加入混合检索 / Query 改写 回答有幻觉:Prompt 强调只基于文档 / 降低 temperature / 加引用要求 延迟太高:流式输出 / 缓存热门问题 / 减少 Top-K 成本太高:减少 Top-K / 上下文压缩 / 模型路由 / 缓存减少调用 ``` 注意"延迟太高"和"成本太高"的解法高度重叠(都在减少 Top-K、加缓存),因为**上下文长度同时是延迟和成本的主变量**——这也是一个典型的"一举两得"优化点。 ### Q:有没有技术选型速查表? A:结论先行——有,按场景直接对照即可。 | 场景 | 推荐方案 | |------|---------| | 学习/原型 | Chroma + OpenAI Embedding + LangChain | | 中文场景 | BGE-large-zh + Milvus | | 生产环境 | 混合检索 + Reranker + Milvus/Qdrant | | 超低延迟 | 语义缓存 + 本地 Embedding | | 高可靠 | 混合持久化 + 监控告警 | 读表要诀:**先确定自己处在哪个阶段**——原型阶段别抄生产方案的复杂度,生产阶段也别还停留在 Chroma 单机。 ### Q:从这张图看,上线前必须补齐哪些能力? A:结论先行——**四件套:缓存、异步、增量更新、监控**,它们对应图里"工程实践 → 关键设计"分支。 ```text 缓存(语义缓存) → 省成本、降延迟,但要防"答非所问" 异步(异步索引) → 不让大文档处理阻塞用户请求 增量更新 → 文档变化时不全量重建,靠稳定文档 ID 监控告警 → 延迟 / Token / 错误率,出问题能第一时间发现 ``` 为什么这四项"必须"而不是"可选"?因为它们对应的都是**只有长期运行才会暴露、且一旦暴露就代价很大**的问题:没有缓存,成本会随流量线性膨胀;没有异步,用户上传大文件必然超时;没有增量更新,文档一多就无法维护;没有监控,线上坏了可能要等用户投诉才知道。 反过来说,在 Demo 阶段这些都可以先不做——这也是图里把"工程实践"排在"评估与优化"之后的隐含前提:**先证明效果,再谈工程**。 ## 六、工程实践与踩坑 结论先行:这份知识地图最大的价值,是让你在遇到问题时能**先定位到分支,再查细节**,而不是盲目地"换模型、加 Top-K"。 几个实战经验: 1. **先用图的"骨架"做诊断**:答错时先判断落在"检索策略"分支还是"Prompt 工程"分支,再往下查。 2. **分块和 Embedding 是"地基层"**:这两项决定上限,改它们的收益通常高于调 Prompt。 3. **不要跳过评估直接优化**:没有指标就没有方向,参考"评估与优化"分支先建基线。 4. **Advanced 技术是"按需"而非"必上"**:HyDE、Graph RAG、Agentic RAG 都有明确适用场景,不是越复杂越好。 5. **工程实践的四个关键设计(缓存、异步、增量、监控)在 Demo 阶段可以先不做,但上线前必须补齐**。 6. **图里所有数量级(如 chunk_size 500~1000、精排 Top-5、微调提升 5%~15%)都是经验参考值,真实取值需结合你的数据和版本实测确认**。 ### Q:评估与优化为什么在整张图里被单独列成一个分支? A:结论先行——因为它**不属于任何单个环节,而是横切所有环节**:检索有检索的指标,生成有生成的指标,工程改动要靠它来验证。 ```text 文档/Embedding/向量库/检索/Prompt → 每个环节都在"产出" 评估与优化 → 在每个环节"验收产出" ``` 如果把评估塞进"检索策略"分支下,你会漏掉生成侧的幻觉问题;如果塞进"Prompt 与生成"分支下,又会漏掉检索漏召回的问题。**它是唯一的横向能力**,所以必须独立成节。 这也解释了一个常见的学习误区:很多人把 RAG 学成"一串技术的罗列",而真正把这些人区分开的,恰恰是"有没有评估思维"——能不能量化、能不能定位、能不能证明改进。 ### Q:复习这张图时,最容易"以为自己会了"的地方在哪? A:结论先行——**是"能说出名词"但"说不出取舍"**。 ```text 低阶:知道有 HNSW、知道有 Reranker、知道有 Hybrid 高阶:知道为什么要 Reranker(Bi-Encoder 精度不足)、 为什么 RRF 不能直接加分数(量纲不同)、 为什么 HNSW 不用训练(图结构增量构建) ``` 所以自测时不要问自己"这个名词我知道吗",而要问"**它为什么存在、替代方案是什么、代价是什么**"。答不出"为什么"和"代价",就说明还没真正掌握。 ```text 用这张图复习/面试的正确姿势: 先记 10 个一级分支 → 再记每个分支的核心 Q → 细节靠"为什么"和理解,而不是死背数字 ``` ## 小结 - 整张 RAG 知识地图有 10 个一级分支:**概述、文档处理与分块、Embedding、向量数据库、检索策略、Prompt 与生成、Advanced RAG、评估与优化、工程实践、常见问题与最佳实践**。 - 核心流程两条:**离线索引(文档→分块→Embedding→向量库)、在线查询(问题→Embedding→检索→Prompt→LLM→回答)**。 - RAG vs 微调 vs 长上下文:**RAG 管知识、微调管行为、长上下文管少量文档的深度理解**。 - 优化优先级:**分块 → Embedding → 混合检索 + Reranker → Prompt → 缓存/异步**,顺序颠倒是最常见的错误。 - 技术选型按场景对照:原型 Chroma、中文 BGE + Milvus、生产混合检索 + Reranker。 - 常见问题四类:**检索不到、有幻觉、延迟高、成本高**,各有对应解法且多有重叠。 - 复习自测的黄金三问:**它为什么存在、替代方案是什么、代价是什么**——答不出就说明还没掌握。 ## 思考题 1. 如果让你只保留这张图里的三个分支来应对一场 RAG 面试,你会保留哪三个?为什么? 2. "延迟太高"和"成本太高"的解法为什么高度重叠?背后的共同变量是什么? 3. 为什么优化顺序里"分块策略"排第一、"缓存 + 异步"排最后?如果把顺序反过来会怎样?
预览
发布文章
添加摘要让读者更快了解文章内容
取消
确认发布
AI 写作助手
输入一个主题,AI 将为你生成一篇 Markdown 博客文章
AI 正在写作中...
取消
开始生成
AI 优化助手
描述你的修改需求,AI 将在原文基础上进行补充或微调
AI 正在优化中...
取消
开始优化
画布
从已有图里选
✕
图名
保存后生成 /images/excalidraw/<图名>.svg(只能用字母、数字、短横线、下划线、点)
取消
保存并插入