在搭建检索增强生成（RAG）系统的过程中，一个高频出现的故障现象是：检索环节明明返回了正确的文档片段，也成功拼接进了提示词，但模型的回答却完全没有引用这些内容，要么凭空编造，要么用训练数据里的旧知识糊弄。排查时很多团队会反复调整向量检索的相似度阈值，结果发现问题根本不在检索，而在上下文的组织与呈现方式上。本文围绕Context位置摆放与权重强调两个核心维度，系统分析搜索内容不被采纳的原因，并给出对应的解决方案。
一、为什么内容在上下文里，模型却不用
要理解这个问题，先要明白大模型处理长上下文时的两个已知特性。第一个是“迷失在中间”现象（Lost in the Middle）：研究表明，模型对上下文开头和结尾的信息关注度明显高于中段。如果把关键文档放在几千字提示词的中间位置，它被采纳的概率会显著下降，即使它的相关性得分很高。
第二个特性是注意力竞争问题。当上下文里同时存在多条内容时，模型会在它们之间隐式分配注意力权重。如果检索片段与用户问题的措辞差异较大，或者片段被大量无关文本包裹，模型对它的权重评估就会偏低，转而依赖参数化记忆中的知识回答。
第三个常见原因是格式噪音。检索返回的原文常常带有页眉页脚、乱码字符、表格断裂等噪声，这些噪声会稀释有效信息的信号强度。模型看到的是一堆“看起来不可信”的文本，自然倾向于忽略。理解了这三点，接下来的优化手段就有的放矢了。
二、Context位置优化：把最相关的内容放在对的地方
位置优化的基本原则是“重要的内容靠两头放，尤其是靠前放”。实践中有两种常见策略：第一种是把相似度最高的片段放在上下文的最前面，第二种是放在最后面紧邻用户问题。两种策略各有适用场景：片段较短时，前置效果更好；片段较长且需要模型逐条参考时，放在问题附近可以借助近因效应提升关注度。
更稳妥的做法是混合排序：将最相关的1到2条片段放在开头，次相关的放在末尾，相关性最低的放中间。这样无论模型对哪个位置更敏感，核心信息都处于高注意力区域。以下是一个基于Python的简单重排示例：
def reorder_context(chunks, question):
# chunks 为检索结果列表，已按相似度降序排列
if len(chunks) <= 3:
return chunks
top = chunks[:2] # 最相关的放最前
bottom = chunks[2:4] # 次相关的放最后
middle = chunks[4:] # 其余放中间
return top + middle + bottom
除了顺序，拼接时的分隔方式也值得注意。使用清晰的分隔符（如连续的等号行或XML风格标签）将每个片段明确隔开，能帮助模型区分不同信息源。分隔符相当于给注意力划定了边界，避免相邻片段的内容互相干扰，被稀释权重。
三、权重强调技巧：让模型知道哪些内容必须采纳
位置调整解决的是“看得见”的问题，权重强调解决的是“愿意用”的问题。最直接的手段是使用结构化标签标记检索内容，例如用<context>和</context>包裹文档片段，再在指令中明确说明“回答必须且只能基于context标签内的内容，若其中没有答案请直接回复不知道”。这种显式指令配合标签边界，能大幅压制模型调用参数化记忆的倾向。
第二种手段是片段级别的元信息增强。在每个片段前附加来源描述，例如“以下内容来自公司2024年产品手册，权威等级：高”。模型对带权威性标注的文本会给予更高的信任权重，这在实测中对采纳率提升非常明显。示例如下：
<context source="产品手册" confidence="0.92"> 电池容量为5000mAh，支持67W快充。 </context> <question> 这款手机的电池容量是多少？ </question> <instruction> 请仅依据context中的信息回答，不要使用你自己的记忆。 </instruction>
第三种手段是问题重述与关键词对齐。检索片段和用户问题的措辞往往不一致，比如用户问“续航怎么样”，文档写的是“电池容量”。在拼接上下文前，先用模型对问题做一次改写，或者对片段做摘要提炼，使双方的关键词对齐，可以有效提升模型建立内容关联的概率。
需要注意的是，强调要有度。如果对每个片段都加“非常重要”“必须参考”之类的标注，等于没有强调。权重强调的本质是制造差异，只对真正核心的内容做标记，其余保持普通呈现，才能真正引导注意力流向目标信息。
四、验证与迭代：如何量化采纳率
做了上述优化后，需要一套可量化的验证方法来判断效果。最常用的是忠实度评估：对模型的回答做引用溯源，统计其中有多少句能在检索片段中找到依据，占比即为采纳率。可以人工抽样标注，也可以用另一个大模型自动判断回答与片段的一致性。
建议搭建一个包含50到100条问答的回归测试集，每次调整位置策略或提示词后跑一遍，记录采纳率、幻觉率两个指标的变化。同时做A/B对比：一组使用原始拼接方式，一组使用优化后的方案，差异一目了然。经验上，仅通过位置重排和标签强调两项优化，采纳率通常能从60%左右提升到85%以上，改动成本极低，性价比非常高。
最后提醒一点：如果优化后采纳率仍然不理想，就应该回头检查检索质量本身了。片段确实相关但模型不用，是本文讨论的位置与权重问题；片段本身不相关，那需要优化的是向量模型和召回策略，两者的排查方向完全不同，不要混淆。