LLaMA(6):从正弦位置编码的问题走向 RoPE 2026 年 09 月 11 日 LLaMA 回顾 Transformer 的正弦余弦位置编码,辨析相对位置、外推能力与内容位置耦合问题,并理解 LLaMA 为什么采用 RoPE。 LLaMA 1 RoPE 位置编码 Sinusoidal Encoding 长上下文