← 全部标签

标签:相对位置

共 2 篇相关内容,按发布时间排列。

LLaMA(8):RoPE 可以表示绝对位置信息吗?

辨析 RoPE 中“向量携带绝对相位”和“注意力分数只依赖相对位移”两个看似矛盾的结论。

LLaMA(7):RoPE 如何捕获向量之间的相对位置

从二维旋转、复数乘法和块对角矩阵三种视角推导 RoPE,证明注意力分数中的位置项只依赖相对距离。