F
Member
检索增强生成（RAG）让大模型基于外部知识回答问题，是企业知识库、客服等应用中最常见的架构之一。它的效果往往取决于工程细节，而不是模型本身。
一、文档处理与切块。 切块太大，检索结果中噪声多、占用上下文；切块太小，语义不完整。常见做法是按标题、段落等文档结构切分，加入适度重叠，并为每块保留标题路径、来源等元数据。表格、PDF 版式和扫描件的解析质量也会直接影响最终效果。
二、检索：向量与关键词结合。 向量检索擅长语义相似，关键词检索（如 BM25）擅长型号、编号、专有名词等精确匹配。混合检索再融合排序，通常比单一方式更稳健。技术文档中充满型号与参数，关键词检索尤其不能丢。
三、重排（Rerank）。 先召回较多候选，再用交叉编码器类的重排模型精排，把最相关的少量片段放进提示词，可以兼顾召回率和精度。
四、生成环节。 在提示词中要求模型仅依据检索内容回答、标注引用来源，在资料不足时明确说明，以减少幻觉。
五、评测必不可少。 分别评估检索（目标片段是否被召回、排名如何）和生成（答案是否忠于来源、是否回答了问题）。构建一个覆盖真实问题的小型评测集，比凭感觉调参可靠得多。
讨论问题：
1. 面对大量 PDF 规格书，你们用什么方法解析表格和图片中的信息？
2. 混合检索的融合权重是固定设置，还是按查询类型动态调整？
3. 长上下文模型越来越强，RAG 会被取代吗？
一、文档处理与切块。 切块太大，检索结果中噪声多、占用上下文；切块太小，语义不完整。常见做法是按标题、段落等文档结构切分，加入适度重叠，并为每块保留标题路径、来源等元数据。表格、PDF 版式和扫描件的解析质量也会直接影响最终效果。
二、检索：向量与关键词结合。 向量检索擅长语义相似，关键词检索（如 BM25）擅长型号、编号、专有名词等精确匹配。混合检索再融合排序，通常比单一方式更稳健。技术文档中充满型号与参数，关键词检索尤其不能丢。
三、重排（Rerank）。 先召回较多候选，再用交叉编码器类的重排模型精排，把最相关的少量片段放进提示词，可以兼顾召回率和精度。
四、生成环节。 在提示词中要求模型仅依据检索内容回答、标注引用来源，在资料不足时明确说明，以减少幻觉。
五、评测必不可少。 分别评估检索（目标片段是否被召回、排名如何）和生成（答案是否忠于来源、是否回答了问题）。构建一个覆盖真实问题的小型评测集，比凭感觉调参可靠得多。
讨论问题：
1. 面对大量 PDF 规格书，你们用什么方法解析表格和图片中的信息？
2. 混合检索的融合权重是固定设置，还是按查询类型动态调整？
3. 长上下文模型越来越强，RAG 会被取代吗？