笔记
一句「我们怀疑」：注意力为什么要除以 √dₖ
在 Transformer 论文的一句话旁边，摆三张实验纸。先估点积会长多快，再看 softmax 怎样变得固执，最后回到那句「We suspect」。
Academic
论文笔记、研究记录与发表。
机器人学习 让机器人从数据和交互中学会技能，而不是靠人手写控制律。
具身智能 感知、决策与动作在同一个身体里闭环。
Sim-to-Real 在仿真里训练，在真实世界里成立。
笔记
笔记
83% 与 43%：把一张成绩单拆成三张图
先看两份试卷的构成，再统一权重，最后把不确定性放回结论。一份可复算、可带去审阅下一张实验报告的图解笔记。
笔记
注意力的手算底稿：三个位置怎样变成一个输出
给一次注意力留下完整账本：打分、指数、权重和值。用同一份输入检查遮罩，再把这页底稿放回原始 Transformer。