用集市故事讲清 Transformer 注意力机制

作者用集市交易的故事解释 Transformer 注意力机制：每个 token 像带着布料的商人，用 query 向其他 token 的 key 询价，softmax 按匹配度分配权重后加权求和 value，再经残差连接保留原向量。每个注意力头有三组可学习矩阵生成 query、key、value，训练中调整；每层多个注意力头并行，各自学习关注不同模式。