1. 前言 前文所述神经网络模块CausalAttention也被称为单头注意力模块(single-head attention)。将向量序列 x 1 , x 2 , ⋯ , x n x_1, x_2, \cdots, x_n x