RAG · Retrieval-Augmented Generation · 检索增强生成

语言模型可以压缩大量公共知识, 却很难保证知识及时、出处可追、权限正确和删除生效. RAG 把回答所需的一部分知识留在模型外部: 系统先从一个带版本和权限的语料快照中找到候选, 再把有限证据交给生成模型. 这项改动看似只是增加搜索, 实际上把一个封闭的概率模型变成了可以逐段观察、测量和替换的信息系统.

RAG 的工程价值来自责任分离. 文档接入决定系统能看见什么; 索引决定哪些关系能够被搜索; 召回和排序决定证据能否进入有限窗口; 上下文编排决定模型最终看到的次序与边界; 生成器决定如何把证据变成命题; 引用和拒答决定结果能否被核验. 任何一段失真, 流畅的回答都可能掩盖错误.

RAG 的核心对象是一条带来源、版本、权限和反馈的证据链; 向量库只承载其中一种索引. 向量相似度只是候选信号之一. 编号、实体名、否定词和精确短语常由稀疏检索保留; 语义近邻由稠密检索补充; cross-encoder 或生成式排序器再利用查询与文档的联合表示区分细粒度相关性. 最终证据还要满足时效、授权、去重和预算约束.

全库统一使用查询 $q$, 时刻 $t$ 的语料快照 $\mathcal C_t$, 初始候选 $D_K$, 最终证据集合 $E$, 回答 $y$ 和引用映射 $A$. 检索器产生 $D_K=R(q,\mathcal C_t)$, 排序与选择器在预算 $B$ 下得到 $E=S(q,D_K,B)$, 生成器计算 $p(y\mid q,E)$, $A$ 把回答中的可核验命题连接到证据位置. 这组对象贯穿六章, 也让错误能够定位到具体环节.

问题与约束 -> 语料快照 -> 候选召回 -> 排序与选择
            -> 上下文包 -> 回答与引用 -> 分层评测 -> 反馈

六条主线怎样接起来

从问题到证据

前四章沿一次请求的信息变化展开. 问题定义给出允许来源和输出条件, 语料处理把来源变成可检索快照, 检索排序取得候选, 上下文与生成把候选变成带引用的回答. 这条顺序也对应排错方向: 先确认材料存在, 再确认材料被找到, 随后确认模型看见并正确使用.

每一章都保留输入输出, 使系统能够在边界处截断测试. 可以固定语料评估检索, 固定候选评估重排, 固定上下文评估生成. 端到端结果仍然重要, 但只有与边界测试并列, 才能解释一次改动为何生效.

RAG 基础与问题定义先确定任务边界和最小基线. 适合 RAG 的任务通常同时要求外部知识、原文追溯或高频更新. 精确聚合应交给数据库, 有副作用的动作应交给业务 API, 开放式创作也未必需要检索. 任务定义若不稳定, 后续指标没有共同分母.

语料处理与索引把源对象变成可检索快照. 这里处理文档身份、版本、解析、切分、元数据、embedding、倒排索引和删除传播. 固定字符数只能作为切分基线; 完整方案还要在召回粒度、语义完整性和上下文成本之间选择可测量单位.

检索与排序研究候选怎样出现以及有限位置先给谁. BM25、双编码器、late interaction、cross-encoder 和混合融合处在不同成本层. 它们的分数不能直接当作同一种概率, 融合前需要明确排名口径和失败模式.

上下文与证据化生成从候选转向模型实际可见的证据包. 去重、邻域扩展、冲突处理、上下文顺序、命题级引用和拒答共同决定答案能否核验. 检索命中不代表生成忠实, 引用存在也不代表引用支持对应命题.

从适配到生产

高级 RAG 与训练处理静态单次检索不足的情形. 查询改写、多跳检索、路由、自反思控制以及面向检索的训练改变了控制流. Self-RAG、RAFT 等方法的价值应放回训练信号和推理动作中理解, 不能只看方法名.

评测、可靠性与生产把离线实验接到线上系统. 语料、召回、排序、生成、引用和端到端任务分别测量; 权限、删除和数据泄漏作为硬约束单独检查. 线上还要记录语料版本、检索运行和模型配置, 否则同一问题的变化无法复现.

第五章和第六章横跨前四章. 训练可以调整检索表示、控制策略和证据使用, 评测则为每个环节提供共同口径. 它们不构成一条脱离基础流水线的新路线: 训练数据仍来自明确的任务契约, 生产监控仍要落回语料、候选、上下文和回答.

三种阅读路径

从零建立基线

第一次搭建系统, 按六章顺序阅读. 先用可人工检查的小语料和问题集建立基线, 再扩大索引与模型复杂度. 这样可以区分性能提升来自更好的文档、更好的召回还是更强的生成器.

这条路径的首个交付物是一组可重放运行: 每个问题保存参考证据、候选、上下文、回答和引用. 规模可以很小, 但版本、权限和无答案样本不能省略. 完成这一步后, 向量模型或框架替换才有可比较结果.

从现有搜索进入

已有搜索系统的读者可以从第三章进入, 随后阅读第四章和第六章. 现成搜索结果若已经可靠, 主要工作会转向证据选择、引用对齐、拒答校准和可观测性. 已有知识库但效果不稳定的系统, 通常应从第二章回查身份、版本、切分和删除, 再看检索模型.

成熟搜索往往面向人工浏览, RAG 则需要机器可消费的证据位置. 标题相关但正文不充分的结果、聚合页面和重复版本对人工搜索影响有限, 进入生成上下文后却会成为直接错误源. 因此现有搜索分数可以作为召回基础, 不能省略证据充分性评测.

从研究方法进入

研究训练方法时, 先固定前四章定义的输入输出和评价口径, 再进入第五章. 训练能够改变检索器与生成器的行为, 但不能修复错误权限、过期语料或不可复现的索引. 先固定证据链的对象和测量点, 再比较算法, 才能知道改动究竟作用在哪一段.

论文方法通常在特定数据集、语料规模和检索设置下报告结果. 复现时先还原其候选数、负例、上下文和指标, 再迁移到自己的任务契约. 如果同时更换语料、切分、模型和评审器, 得到的差异无法归因于论文提出的机制.

共同边界

三种正确性

相关性、忠实性与真实性是三个判断. 文档和查询相关, 不代表它足以回答问题; 回答忠实于文档, 不代表文档本身正确; 来源权威, 也不代表其版本仍然有效. 因此数据集需要同时记录问题、可接受答案、证据位置、时间条件和无答案情况.

可以用一条政策问答区分三者. 搜到同一机构的旧政策, 主题相关性很高; 回答准确复述旧政策, 对给定证据也很忠实; 若问题询问当前政策, 最终结论依然错误. 这类样本要求先按有效时间选择来源, 再评价检索与生成.

不可折抵的约束

权限与删除不能并入平均质量分. 一条越权命中即使提高了答案准确率, 仍是系统失败. 删除也必须从源、缓存、稀疏索引、向量索引和派生摘要传播. 这些条件共同划定 RAG 的生产边界: 它是一套可追踪的信息获取与生成系统, 不是给提示词附加几段文本的技巧.

延迟和成本可以在预算内权衡, 权限和合规约束没有这种交换关系. 生产验收先执行越权、删除、注入和引用解析测试, 再比较质量指标. 这种顺序防止一个更高的平均答案分掩盖不可接受的单次泄露.