自从自注意力机制（Self-Attention Mechanism）被引入以来，Transformer模型一直是自然语言处理（NLP）任务的首选。基于自注意力的模型具有高度并行化的特性，并且所需的参数数量大大减少，使其计算效率更高、不易过拟合，并且更容易针对特定领域的任务进行微调 ...