1. 放得下不等于能用好
把一本书全部放进窗口，只解决了“输入没有超限”。系统还要在问题要求下找到关键段、理解条件、比较版本，最后给出受证据支持的回答。
例如 100 页制度里，旧版写 5 天、新版附录写 7 天。模型即使读到了两处，也可能没有识别生效日期，或没有正确整合条件。
长上下文能力要按任务测试：单点查找、跨段组合、时间冲突、负面问题、多个相似干扰项，难度不同。只用一条显眼字符串做“大海捞针”测试，不足以代表全部长文理解能力。
2. 幻觉具体指什么
这里把幻觉理解为：输出看似合理，却与事实、提供材料或可验证约束不一致。
公司知识库里可能出现：
- 原资料没有规定“所有员工都享有 15 天年假”，系统却直接给出。
- 来源说“满一年”，回答遗漏这个条件。
- 引用的链接真实存在，但内容没有支持结论。
- 把旧版与新版拼成一个不存在的规则。
流畅与真实是两个维度。训练目标没有让每句话自动得到外部事实认证；数据缺失、检索遗漏、上下文冲突和错误推断都可能造成问题。
“概率模型必然每次都胡说”也不准确。重要的是系统没有天然的全面真实性保证，应通过任务设计与评测控制风险。
3. 知识缺口、证据缺口与推理错误
三种情况要分开：
| 故障 | 例子 | 优先检查 |
|---|---|---|
| 缺资料 | 最新制度从未进入系统 | 数据更新与检索 |
| 资料没找到或不可见 | 正确文件存在，但召回失败 | 分块、检索、权限、版本过滤 |
| 找到但读错 | 条款写 7 天，回答成 15 天 | 提示、模型、上下文组织与校验 |
RAG 主要改善把外部知识送进上下文的能力，但不保证模型一定忠实使用它。微调也不能保证所有具体事实永远正确。
对于数字、资格条件和日期等关键内容，可以增加结构化抽取与规则校验；对于不可可靠判断的问题，保留拒答与人工处理路径。
4. 多轮对话为什么会“忘”
应用可能没有传全部历史，也可能因长度限制截断、压缩或选择性检索。即便历史仍在，模型也可能没正确利用。
“记得我叫小王”与“记得五十轮之前一个带条件的业务约束”，对信息保留和检索的要求不同。
可以把记忆分为：
- 当前上下文：本次请求能直接看到的内容。
- 工作状态：当前任务目标、步骤、已验证事实、待办和限制。
- 长期存储：经授权保存的偏好、历史、文档等，按需取回。
- 模型参数：训练形成的规律，不能当作随时可精确增删的用户笔记。
5. 摘要是一种有损压缩
把二十轮对话压成一句“讨论了休假安排”，可能丢掉“不要发送申请”“只使用新版制度”等决定性约束。
一个更有用的状态记录可以是：
{
"goal": "核对可休年假天数",
"verified_facts": ["入职时间已核实"],
"constraints": ["只用当前生效制度", "用户尚未要求提交申请"],
"evidence_ids": ["policy-2026-section-3"],
"open_questions": ["累计工作年限是否包含前一份工作"]
}它没有替代原始证据。关键条款应保留可回查的位置，不能要求后续模型仅凭一段摘要“恢复”丢失的精确文字。
6. 长上下文如何组织更容易检查
先把身份、任务和约束固定清楚，再只放相关资料。每块资料标明 ID、标题、日期、版本和权限范围，区分原文与系统解释。
对于多份冲突材料，明确比较规则，例如“以已验证为现行的版本为准”。若无法判断哪个有效，应该呈现冲突并追问，而不是让模型猜。
对于很长的文件，可先检索或分层摘要，再回到原文核验关键点。压缩用于导航，原文用于验证；两者职责不同。
7. 复读与退化怎样排查
重复可能来自模型行为、采样配置、上下文重复、提示模板错误、结束标记处理或生成上限。先查输入和日志，再改参数。
重复惩罚、Top-P 等可能缓解某些输出模式，但如果工具返回同一段内容十次，单调参不能修复上游循环。
可逐层检查：
- 是否重复拼接了相同历史？
- 模型是否收到明确目标和停止条件？
- 是否正确处理结束标记与最大输出长度？
- 解码配置是否与模型预期相容？
- 应用是否把失败工具结果误当作需要继续重试？
8. 用失败样本证明改善
构造四类题：答案存在、答案不存在、材料互相冲突、用户无权访问。再加入同义问法、长文干扰和跨轮约束。
记录旧版与新版在同一批题的表现。只展示一条改好后的回答，不能证明整体更可靠。
特别要检查正确拒答：系统说“不知道”可能是诚实，也可能是检索漏掉本来存在的答案。因此要把“应该答却拒了”与“应该拒却编了”分开。
复习卡片与自测
- 窗口容量是输入边界，不是效果承诺。
- 幻觉可能来自数据、检索、理解与生成的不同环节。
- 摘要有损，关键约束和证据要可回查。
- 记忆系统由应用设计，不能只依靠聊天记录越来越长。
1. 找到了真实文件，为什么引用仍可能错误？
参考答案
文件存在不等于支持当前结论。模型可能错读条件、引用错段或选择过期版本。2. 把所有历史都保存进数据库，就等于模型每次都知道吗？
参考答案
不等于。还要决定检索什么、何时送入上下文，并验证取回内容的相关性、权限和时效。3. 降低温度能否彻底消除幻觉？
参考答案
不能。它改变候选选择的随机性，不能补上缺失证据，也不能保证最高分候选就是事实。原文定位
依据：原资料 4.6—4.8、4.13、18.3。长文位置影响可进一步读 Lost in the Middle；研究发现应结合其任务与实验条件理解。