核心导读与中文摘要
告别“把 PDF 直接切 500 字塞进向量库”的玩具写法!系统讲解版面解析、父子块索引、BM25 关键词+向量双路召回与 BGE/Cohere Rerank 落地架构。
为什么基础版 RAG 在实际业务中经常“答非所问”?
多数初学者按固定字符数硬切 PDF 后直接查余弦相似度,容易踩中三个典型坑:
- 表格与代码块被腰斩,模型读到残缺上下文开始瞎编;
- 专有名词/报错码/型号查不到(纯语义向量对
ERR_5023、GLM-5.3这类精确字面匹配天生不敏感); - 只取 Top-3 容易漏掉真正答案,取 Top-20 又把上下文塞满噪声。
生产级四阶段优化流水线
| 阶段 | 推荐策略 | 解决的核心痛点 |
|---|---|---|
| 1. 文档解析 | MinerU / Docling / Unstructured 转为结构化 Markdown | 保留标题层级与表格 Markdown,避免双栏 PDF 文本错乱 |
| 2. 智能切片 | Parent-Child(父子块) + 按 Markdown 标题边界切分 | 用 256~400 Token 小块精准命中检索,返回其所属 1200 Token 父段落给 LLM |
| 3. 双路召回 | Vector 向量 + BM25 全文检索(RRF 倒排融合) | 兼顾“语义理解”与“型号/人名/报错码精确命中” |
| 4. 精排(Rerank) | 粗召回 Top-30 -> BGE-Reranker-v2-m3 / Cohere Rerank 取 Top-5 | Cross-Encoder 对 Query 与段落交叉打分,大幅提升首位准确率 |
Supabase PostgreSQL 双路融合(RRF)思路
在 Postgres / pgvector 中,可以一条 SQL 函数同时跑 tsvector 全文匹配与 <=> 向量距离,再按 Reciprocal Rank Fusion 公式合并排序:
sql
-- 伪代码示意 RRF 融合分数计算
score = (1.0 / (60 + full_text_rank)) * bm25_weight
+ (1.0 / (60 + vector_rank)) * semantic_weight
必做的上线前评测(RAG Triad)
上线前务必准备 30~50 个真实高频 QA 测试集,用 Ragas 或人工核查三个指标:
- Context Recall:正确答案所在的段落到底有没有被召回?
- Context Precision:召回的前 5 段里有多少是干扰废话?
- Faithfulness(忠实度):模型回答是否严格依据召回段落,没有偷渡幻觉?
