AI 原理学习笔记（九）：上下文窗口、Prefill、Decode 与 KV Cache 2026 年 10 月 20 日 AI 技术与原理 追踪模型读取提示和生成新 Token 的两个阶段，解释 KV Cache 省了什么，以及怎样估算缓存显存。 KV Cache 大模型推理 显存