标签：Attention

理解多头注意力为什么有效，逐步追踪拆头、并行计算、拼接与输出投影的张量形状，并给出可用于交叉注意力的实现。

从 RNN 的瓶颈出发，建立 Transformer 编码器—解码器架构的完整地图，并理解它的优势、代价与主要变体。