为组织知识构建你的第一个 RAG 系统
从五阶段流水线与分块的坑,到混合检索与持续评估——把大模型接入公司真实文档的实用路线图。

RAG 解决什么问题?
大模型只知道训练时见过的东西——不知道你的内部文档、今天的价格或公司政策。RAG 用一个简单的思路填补这个缺口:回答前先从你的资料中检索相关片段并放进提示词。回答从「靠记忆」变成「基于真实文档」,引用出处也顺带解决。
- 三大收益:数据新鲜、减少幻觉、答案可溯源。
- 它不是微调的替代品;对于会变化的文本知识,RAG 比重新训练更快更省。
五阶段流水线
任何实用的 RAG——无论用什么工具——都有五个阶段:摄取并清洗文档;切分成有意义的片段;把每个片段转为嵌入并存入向量库;为查询检索最相关的 k 个片段;引用这些片段生成答案。阶段 1–3 在数据入库时跑一次,阶段 4–5 随每次查询运行。
- 从第一天就保留元数据:作者、日期、章节、文档链接。
- 中英文混合语料要选多语言嵌入模型。
- 每个片段连同上级标题一起存储,避免上下文丢失。
分块:大多数系统栽在这里
RAG 第一版答得差,通常是分块的问题而不是模型的问题。块太小会丢上下文;块太大则把无关内容带进检索。对纯文本,从 300–500 词元、10–20% 重叠开始是合理的——然后用你自己的数据调优。
- 在自然边界(段落/标题)切分,不要从句子中间切。
- 表格和代码单独成块,保留原生格式。
- 混合检索(关键词 + 向量)几乎总是优于纯向量检索。
- 在检索结果上加一层轻量重排,精度再上一个台阶。
评估:没有它就是在盲人摸象
在任何架构改动之前,先建一个黄金测试集:30–50 个真实问题及其经核验的正确答案。然后用两个指标衡量每次改动(块大小、嵌入模型、检索 k):命中正确来源的召回率,以及答案对来源的忠实度。这两个简单数字能省下几十小时的瞎猜。
- 记录用户的真实提问——黄金集最好的原料。
- 把失败案例分类:检索差还是生成差?修法完全不同。