LLaMA(8):RoPE 可以表示绝对位置信息吗? 2026 年 09 月 11 日 LLaMA 辨析 RoPE 中“向量携带绝对相位”和“注意力分数只依赖相对位移”两个看似矛盾的结论。 LLaMA 1 RoPE 绝对位置 相对位置 面试题
LLaMA(7):RoPE 如何捕获向量之间的相对位置 2026 年 09 月 11 日 LLaMA 从二维旋转、复数乘法和块对角矩阵三种视角推导 RoPE,证明注意力分数中的位置项只依赖相对距离。 LLaMA 1 RoPE 相对位置 旋转矩阵 复数