LLaMA（8）：RoPE 可以表示绝对位置信息吗？ 2026 年 09 月 11 日 LLaMA 辨析 RoPE 中“向量携带绝对相位”和“注意力分数只依赖相对位移”两个看似矛盾的结论。 LLaMA 1 RoPE 绝对位置 相对位置 面试题
LLaMA（9）：RoPE 对长距离和短距离依赖有什么区别？ 2026 年 09 月 11 日 LLaMA 从多频率余弦和解释 RoPE 的远程衰减倾向，区分振荡、衰减包络与长度外推，并理解长上下文扩展的困难。 LLaMA 1 RoPE 远程衰减 长上下文 面试题