#nlp

注意力的手算底稿：三个位置怎样变成一个输出

给一次注意力留下完整账本：打分、指数、权重和值。用同一份输入检查遮罩，再把这页底稿放回原始 Transformer。